Yapay zeka, bir gün bize saldırır mı?

Google, yapay zekanın bir gün insanlığa saldırması durumuna karşı önlem arıyor!

Yapay zeka, bir gün bize saldırır mı?

Yapay zeka (AI), eğer üzerinde çalışan kişilerinin çoğunun inandığı seviyelere ulaşırsa, içinde yaşadığımız toplumu tamamen değiştirme potansiyeline sahip. Tabii ki bu gelişimle, yapay zeka ayaklanmasının ihtimali de ortaya çıkıyor. İşte bu ihtimal, bazı Google ve Oxford araştırmacılarının yeni bir makale ile azaltmaya çalıştıkları ihtimal oluyor.

"Safely Interruptible Agents" isimli bu çalışma Future of Humanity Institute (İnsanlığın Geleceği Enstitüsü) tarafından yayınlandı. Çalışma, bazı AI algoritmalarının iptal edilebileceği veya geçici olarak bir insan tarafından durdurulabileceği bir mantıksal yapı sunmakta. Başka bir deyişle, bir çeşit "açma - kapama düğmesinden" bahsediliyor. Bu çalışmanın asıl etkileyici olan kısmı ise, makalenin, AI'nin insan kontrolcülerinden gelen bu davranışları öğrenmesine engel olunması gerektiğinden bahsedilen bölüm. Sonuç olarak, en az bizim kadar zeki olması amacı ile ürettiğimiz bir makineden daha zeki olmamız pek mümkün değil.

Son zamanlarda teknoloji ve bilim dünyasının önemli isimleri, yapay zekanın insanlık için zararlı olabileceği uyarılarında bulunuyor. Henüz geçtiğimiz gün Tesla'nın CEO'su Elon Musk, AI güvenliği sorunlarına yardımcı olmak için Future of Life Institute'e 11 milyon dolar bağışta bulundu.

Levent Öztürk

Okuyucu Yorumları

Toplam 11 Yorum

burada yapay zekanın bize saldırması değil yanlış kararlar alıp kendine veya çevresine zarar verme ihtimaline karşılık önlem alınmış. ilgilenenler (veya neye inanacağına karar veremeyenler) ve ingilizcesi olanlar "Safely Interruptible Agents" googleda aratıp özeti okuyabilirler. teknoloji haber sitesi bile bilim kurgudan fırlama haberler yapıyorsa vay halimize...

@06 Haziran 2016 21:34 + (Yorumunuz en az 33 en çok 500 karakter olmalı.)

elektrigi kesen dugme koysunlar

Kendini ve dunyayi yonetecek karar alabilecek bi zekayi yapabileceklerinimi saniyorlar. Insana ve kendisine zarar verecek bu insandan ustun bi makine. Arama motoru yapmaya bilgisayar yapmaya benzemez.

"teknoloji ve bilim dünyasının önemli isimleri, yapay zekanın insanlık için zararlı olabileceği uyarılarında bulunuyor" 25 sene öncede bilim insanları; robotların yürüyebilmesi için saniyede trilyonlarca işlem yapması gerektiği ve bunun imkansız olduğunu söylüyorlardı. Diğer gezegenlere gitmemiz için ışık hızından hızlı gitmemiz gerektiği bunun da imkansız olduğunu hâlâ söylüyorlar (bunu söyleyen de kadın bilim insanı) ki bu sorun aşıldı. Bilim dünyasında sığ düşünen birçok bilim insanı var.

@07 Haziran 2016 00:34 hangi ışık hızı sorunu aşıldı ? insan sınırsız olduğu kadar sınırlıdır. zihin herşeyi kendi içinde canlandırabilir ama gerçeğe dönüştüremez. Beş duyu organı dışındada belli süreçler evrende ve dışında yaşanmakta...

@07 Haziran 2016 13:22 Buradan link veremiyorum, Warp Teknolojisini araştır.

Evet, yapay zekalar kontrolden çıkabilir mi veya çıkarılabilir mi sorusu önemli bir soru ve sorun ama yapay zekanın tamamen yazılımsal olması durumunda. Bu yüzden benim tasarımımda yapay zekanın bazı bölümleri sadece donanımsaldır. Bu bölümler yapay zekanın kontrolden çıkmasına karşı emniyet subapları vazifesi görürür. Kısaca yapay zekanın gerek öğrenme, gerek kendi kendini hack'leme ve de gerekse dış tehditler tarafında manüpile edilmesi suretiyle ile kontrolden çıkması pek mümkün görünmüyor...

Hersey 2 veya 3 koda bagli. Yani muhendis kovuldu kodu girdi vai halimize. Okadar basit. Ama olamamasi lazim. En az 5 anahtar olmasi sart 5 kisi yonetecek! !

uyarıda bulunanlar Person of Interest izlemiş bolca :D yapay zeka konulu güzel dizidir izleyin

Ahmak İnsanoğlu İslam dininde insan için ilimin (bilimin) bir sınırı olduğu apaçık söylenmiştir ve bu ayetlerle de açıklanmıştır bu dünyanın en büyük düşmanı insanoğludur yapay zeka saçmalığı değil bunu kafanıza sokun artık

Sen de yorum yaz

 


CHIP'i Takip edin
E-Posta listemize katılın
CHIP Dergi Mobil Cihazınızda

İlginizi çekebilir