Akıllı telefonlardan bilgisayarlara kadar dijital dünyayı saran büyük dil modelleri, tıp araştırmalarından tarihi belgelerin çözülmesine kadar pek çok alanda kullanılıyor. Ancak bu yazılımların sunduğu imkanlar arttıkça, yeteneklerine dair abartılı iddialar da hızla yayılıyor. Bazı çevreler makinelerin bilince ulaştığını hatta insan zekasını geride bıraktığını öne sürüyor.
Dağıtık Yapay Zeka Araştırma Enstitüsü (DAIR) Araştırma Direktörü Dr. Alex Hanna ise bu sistemlerin ardındaki gerçekleri ve yapay bilinç söylemlerinin neden asılsız olduğunu net bir çerçeveyle paylaştı. Günümüzde kullanılan yazılımlar geçmişteki gibi gramer kurallarını çözmeye odaklanmıyor. Aksine internet üzerinden toplanan devasa veri havuzlarını tarayarak bir sonraki kelimenin ne olacağını istatistiksel hesaplamalarla tahmin ediyor. Yani karşımızda düşünen veya hisseden bir mekanizma yok; sadece gelişmiş bir tahmin motoru bulunuyor.
Buna rağmen insan beyni, okuduğu veya duyduğu bir metnin arkasında otomatik olarak bilinçli bir akıl arama eğiliminde. Sektörde kullanılan "nöral ağ" gibi kavramlar da bu algıyı yanlış yöne sürüklüyor. Oysa sistemdeki matematiksel yapının biyolojik beyin hücreleriyle hiçbir alakası yok.
Denetimsiz veri kümesi ve toplumsal riskler
Modellerin arka planındaki çalışma mantığı kadar, kullanılan verilerin belirsizliği de büyük bir sorun teşkil ediyor. Google, OpenAI ve Anthropic gibi dev şirketlerin sistemleri eğitirken kullandığı verileri eksiksiz belgelemek neredeyse imkansız. Hal böyle olunca internet ortamındaki din, cinsiyet ve ırk kaynaklı toplumsal önyargılar doğrudan çıktıya sızıyor.
Geliştirilen bu araçların doğru bilgi verme garantisi de bulunmuyor. Kamuoyunda "halüsinasyon" olarak bilinen durum, aslında verilerin sistem tarafından uydurulmasından başka bir şey değil. Teyit edilmemiş bu metinlerin kamu yönetimi, istihdam veya sağlık gibi hayati kararların alındığı alanlarda insanların yerine geçmesi, ciddi toplumsal tehlikeleri beraberinde getiriyor.
Başarı zekadan değil veri eşleştirmesinden geliyor
Yapay zekanın sınav veya testlerde sergilediği yüksek performans, akıl yürütme yeteneğinden ziyade veri kümesini doğru eşleştirmesinden kaynaklanıyor. Zekayı sayılarla ölçüp insanla kıyaslamanın hatalı olduğunu vurgulayan uzmanlar, farklı bir noktaya dikkat çekiyor. Teknoloji dünyasındaki her adımı genel bir etiketle sunmak yerine, hangi süreçlerin otomatikleştirildiğini ve olası bir hatada sorumluluğun kime ait olacağını sorgulamak kritik öneme sahip.