Yapay zeka, bir gün bize saldırır mı?

Google, yapay zekanın bir gün insanlığa saldırması durumuna karşı önlem arıyor!

Şimdi de açma-kapama düğmesi!

Yapay zeka (AI), eğer üzerinde çalışan kişilerinin çoğunun inandığı seviyelere ulaşırsa, içinde yaşadığımız toplumu tamamen değiştirme potansiyeline sahip. Tabii ki bu gelişimle, yapay zeka ayaklanmasının ihtimali de ortaya çıkıyor. İşte bu ihtimal, bazı Google ve Oxford araştırmacılarının yeni bir makale ile azaltmaya çalıştıkları ihtimal oluyor.

"Safely Interruptible Agents" isimli bu çalışma Future of Humanity Institute (İnsanlığın Geleceği Enstitüsü) tarafından yayınlandı. Çalışma, bazı AI algoritmalarının iptal edilebileceği veya geçici olarak bir insan tarafından durdurulabileceği bir mantıksal yapı sunmakta. Başka bir deyişle, bir çeşit "açma - kapama düğmesinden" bahsediliyor. Bu çalışmanın asıl etkileyici olan kısmı ise, makalenin, AI'nin insan kontrolcülerinden gelen bu davranışları öğrenmesine engel olunması gerektiğinden bahsedilen bölüm. Sonuç olarak, en az bizim kadar zeki olması amacı ile ürettiğimiz bir makineden daha zeki olmamız pek mümkün değil.

Son zamanlarda teknoloji ve bilim dünyasının önemli isimleri, yapay zekanın insanlık için zararlı olabileceği uyarılarında bulunuyor. Henüz geçtiğimiz gün Tesla'nın CEO'su Elon Musk, AI güvenliği sorunlarına yardımcı olmak için Future of Life Institute'e 11 milyon dolar bağışta bulundu.

Okuyucu Yorumları