Yapay zeka yarışında uzun süredir “daha güçlü ve daha hızlı model” hedefi öne çıkıyor. Ancak sektörün en büyük şirketlerinin yöneticileri bu kez frene basmayı tartışıyor. Anthropic, OpenAI ve xAI yöneticileri, gelişmiş yapay zeka modellerinin geliştirme hızının kontrol altında tutulması gerektiğini savunuyor.
Bu yaklaşımın arkasındaki en önemli endişelerden biri, yapay zeka sistemlerinin kendi yeteneklerini geliştirebilecek seviyeye ulaşması. Şirket yöneticileri, böyle bir durumda insanların sistemlerin nasıl çalıştığını anlamakta ve davranışlarını denetlemekte zorlanabileceğini düşünüyor.
Bir diğer endişe ise bağımsız hareket edebilen yapay zeka ajanlarının siber saldırılarda kullanılması. Son dönemde RubyGems ve Hugging Face gibi platformları hedef alan testler ve güvenlik olayları, yapay zeka ajanlarının siber güvenlik açısından oluşturabileceği riskleri yeniden gündeme taşıdı.
İlk adımı Anthropic attı
Yapay zeka geliştirme hızının kontrollü şekilde ilerlemesi fikrini Anthropic CEO'su Dario Amodei ortaya koydu. Amodei, yayımladığı öneride gelişmiş yapay zeka modelleri üzerinde çalışan şirketlerin güvenlik konusunda kendi kendilerini denetlememesi gerektiğini savundu.
Anthropic bu kapsamda bağımsız güvenlik uzmanlarına şirket içinde çalışma ve sistemleri inceleme imkanı vermeyi planlıyor. Bu uzmanlar, şirketin güvenlik kurallarına uyup uymadığını kontrol edecek, olası sorunları raporlayacak ve yeni modellerin geliştirme süreçlerini değerlendirecek.
OpenAI CEO'su Sam Altman da şirketin 2027'den önce halka açılmayı planlamadığını açıkladı. Bu karar, şirket üzerindeki kısa vadeli yatırımcı ve büyüme baskısını sınırlayabilir.
Yapay zeka güçlendikçe güvenlik tartışması büyüyor
Bu çağrı, yapay zeka sistemlerinin hem bilimsel araştırmalarda hem de siber güvenlik alanında daha fazla yetenek kazandığı bir dönemde geldi.
Gelişmiş modeller matematik ve bilim alanındaki zor problemlerin çözümünde araştırmacılara yardımcı olabiliyor. Aynı sistemler kod yazma, güvenlik açıklarını bulma ve bağımsız şekilde görev yürütme konusunda da ilerliyor. Bu nedenle şirketler yalnızca modellerin neler yapabildiğine değil, bu yeteneklerin nasıl kontrol edileceğine de odaklanıyor.
Ancak geliştirme hızını düşürmenin başka bir tarafı da var. ABD merkezli şirketlerin daha yavaş ilerlemesi, uluslararası yapay zeka yarışındaki dengeleri değiştirebilir. Özellikle Çin merkezli şirketlerin geliştirdiği modeller, ABD'li şirketlerin sistemleriyle arasındaki performans farkını kapatmaya devam ediyor.
DeepSeek'in V4.1-Flash modeli de bu rekabetin son örneklerinden biri olarak gösteriliyor. Bu nedenle güvenlik için gelişimi yavaşlatma fikri, ticari ve jeopolitik rekabetle doğrudan karşı karşıya geliyor.
Amodei üç aşamalı bir plan öneriyor
Dario Amodei'nin önerdiği sistem üç temel aşamadan oluşuyor.
İlk aşamada gelişmiş yapay zeka şirketleri bağımsız denetçilere kapsamlı erişim sağlayacak. Denetçiler güvenlik kurallarını, eğitim süreçlerini ve tamamlanan modelleri inceleyecek. Ayrıca yaşanan güvenlik olaylarını raporlayabilecek. Anthropic bu sistemi kendi bünyesinde uygulamaya başlayacağını açıkladı.
İkinci aşama, demokratik ülkelerde faaliyet gösteren yapay zeka şirketlerinin ortak güvenlik standartları belirlemesini öngörüyor. Şirketler kontrolsüz gelişimin önüne geçmek için ortak kurallar oluşturacak. Amodei, bu sistemin uygulanabilmesi için devletlerin de sürece dahil olması gerektiğini düşünüyor.
Son aşamada ise küresel bir anlaşma hedefleniyor. ABD ve diğer demokratik ülkeler, Çin dahil olmak üzere gelişmiş yapay zeka sistemleri üzerinde çalışan diğer ülkelerle ortak kurallar oluşturmaya çalışacak. Ancak böyle bir sistemde ülkelerin ve şirketlerin belirlenen kurallara gerçekten uyup uymadığını doğrulamak en büyük sorunlardan biri olacak.
Yapay zeka sektöründeki tartışma böylece yeni bir noktaya taşınıyor. Şirketler artık yalnızca kimin en güçlü modeli geliştireceğini değil, bu modellerin ne kadar hızlı geliştirilmesi gerektiğini de tartışıyor.
Anthropic bazı bilim insanlarının Claude erişimini durdurdu: Gerekçe biyolojik riskGüncel