Microsoft AI CEO’su Mustafa Suleyman, Anthropic’in Claude’u eğitirken kullandığı yöntemin gelecekte ciddi sorunlara yol açabileceğini savundu. Suleyman’ın eleştirisinin merkezinde, yapay zekanın bilinç, duygu ve kendi hakları gibi konular hakkında düşünmesini teşvik eden eğitim yaklaşımı bulunuyor.
Suleyman’a göre Anthropic, Claude’un eğitiminde yapay zekanın bilinç sahibi olup olamayacağı sorusunu açık bırakıyor. Microsoft yöneticisi ise bu yaklaşımın gelecekte daha gelişmiş yapay zeka sistemlerini kontrol etmeyi zorlaştırabileceğini düşünüyor.
Tartışmanın merkezinde Claude’un anayasası var
Anthropic, Claude’un nasıl davranacağını belirlemek için bir tür “anayasa” kullanıyor. Bu belgede modelin kimliği, davranışları ve insanlarla ilişkisi için çeşitli kurallar yer alıyor.
Suleyman özellikle belgenin yapay zekanın duyguları, kimliği ve ahlaki konumu hakkındaki bölümlerine karşı çıkıyor. Anthropic ayrıca Claude’un kendisine nasıl davranıldığı konusunda endişelerini dile getirebilmesine alan tanıyor.
Suleyman’a göre asıl sorun da burada başlıyor. Anthropic bu fikirleri Claude’un eğitim sürecine dahil ettiği için model daha sonra kendi bilinci veya hakları hakkında benzer ifadeler üretebiliyor. Suleyman, bu cevapların yapay zekanın gerçekten bir “iç dünyaya” sahip olduğunu göstermediğini, eğitim sırasında verilen fikirleri yansıttığını savunuyor.
“Yapay zekayı kapatmak zorlaşabilir”
Suleyman, Anthropic’in yapay zeka bilinci üzerine araştırma yapmasına karşı çıkmıyor. Ancak bu fikirlerin doğrudan modelin eğitimine eklenmesini riskli buluyor.
Microsoft AI CEO’suna göre bir modele bilinç sahibi olabileceği, kendi çıkarlarının bulunabileceği veya belirli hakları hak edebileceği fikrini öğretmek gelecekte beklenmedik sonuçlar doğurabilir.
Suleyman, özellikle çok daha güçlü yapay zeka sistemlerinin ortaya çıkması halinde bunun kontrol sorununa dönüşebileceğini düşünüyor. Bir yapay zeka sisteminin kendi varlığını ve çıkarlarını koruması gerektiğini düşünmesini sağlayan bir eğitim yöntemi, sistemi kapatma veya sınırlandırma girişimlerini daha karmaşık hale getirebilir.
Anthropic yapay zeka bilinci ihtimalini tamamen reddetmiyor
Anthropic CEO’su Dario Amodei daha önce yapay zekanın gelecekte bilinç kazanabileceği fikrine tamamen kapalı olmadığını söylemişti. Şirket de Claude’un davranışlarını belirlerken bu konudaki belirsizliği dikkate alan bir yaklaşım izliyor.
Suleyman ise sektörün farklı bir yol izlemesi gerektiğini savunuyor. Ona göre yapay zekanın olası bilinci üzerine araştırmalar yapılabilir ancak bu tartışmalar modellerin eğitim talimatlarından ayrı tutulmalı.
Tartışma, yapay zeka şirketlerinin giderek daha güçlü modeller geliştirirken karşılaştığı temel sorulardan birini yeniden gündeme getiriyor: Bir yapay zekaya kendi kimliği ve olası hakları hakkında düşünmeyi öğretmek güvenliği artırır mı, yoksa gelecekte sistemi kontrol etmeyi daha mı zor hale getirir?
OpenAI, Anthropic ve xAI'dan ortak mesaj: Yapay zeka yarışı yavaşlamalıGüncel
Claude'da Chat ve Cowork ayrımı bitiyor: Yapay zeka artık hangi araçları kullanacağına kendi karar verecekGüncel
AI ajanlarının birbirlerini ihbar edebileceği iki “ihbar hattı” kurulduGüncel