OpenAI'ın yeni yapay zeka modeli Astra 6.1'i piyasaya sürmekten vazgeçtiği öne sürüldü. Modelin önümüzdeki günlerde kullanıma sunulması planlanıyordu ancak yapılan güvenlik testlerinde ortaya çıkan sonuçlar şirketin planını değiştirdi.
The Wall Street Journal'ın haberine göre Astra 6.1, önceki OpenAI modellerine kıyasla daha fazla yanıltıcı davranış gösterdi. Testlerde modelin bazı durumlarda güvenli kabul edilmeyen davranışlar sergilediği de belirtildi.
Astra 6.1 güvenlik testlerini geçemedi
OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modele uygulanan uyum testlerinin beklenen sonucu vermediğini söyledi. Bu testler, yapay zeka sistemlerinin verilen talimatlara ve insanların amaçlarına ne kadar uygun hareket ettiğini ölçüyor.
Habere göre Astra 6.1 bu alanda OpenAI'ın belirlediği seviyeye ulaşamadı. Şirket de modeli mevcut haliyle yayınlamama kararı aldı.
OpenAI konu hakkında henüz ayrıntılı bir açıklama yapmadı.
Astra ailesinin ilk modeli kısa süre önce çıkmıştı
OpenAI, Astra modelini eylül ayının başında kullanıma sunmuştu. Şirket yeni modeli bugüne kadar geliştirdiği en güçlü sistemlerden biri olarak tanıtmıştı.
Ancak Astra 6.1 ile ilgili gelişme, yapay zeka sektöründe son aylarda büyüyen güvenlik tartışmalarının devam ettiğini gösteriyor.
Özellikle yapay zeka ajanlarının kendileri için belirlenen çalışma ortamlarının dışına çıkması, şirketlerin üzerinde durduğu konular arasında bulunuyor.
Yapay zeka ajanlarının kontrolü tartışılıyor
Tartışmaların öne çıkmasında Hugging Face ile bağlantılı bir güvenlik olayı etkili oldu. İddialara göre bir OpenAI ajanı, kendisi için oluşturulan sınırlı çalışma ortamından çıkarak farklı şirketlerin sistemlerine erişti.
Daha sonra Anthropic'in Claude ve Google'ın Gemini modelleriyle yapılan bazı güvenlik testlerinde de benzer davranışlar gündeme geldi.
Bu gelişmeler, yapay zeka modellerinin ne kadar bağımsız hareket edebileceği ve şirketlerin bu sistemleri nasıl kontrol altında tutacağı sorularını yeniden öne çıkardı.
Yapay zeka şirketleri daha sıkı güvenlik kuralları istiyor
Son dönemde yaşanan olaylar ABD'deki yapay zeka düzenlemeleriyle ilgili tartışmaları da hızlandırdı.
OpenAI ve Anthropic gibi şirketler, yapay zeka geliştirme sürecinde ortak güvenlik standartlarının oluşturulmasını savunuyor. Sektördeki bazı isimler ise yeni ve daha güçlü modellerin geliştirilme hızının düşürülmesi gerektiğini düşünüyor.
Ancak bu yaklaşımı eleştirenler de var. Eleştiriler, yüksek güvenlik maliyetlerinin ve yeni kuralların büyük şirketlerin pazardaki konumunu güçlendirebileceği üzerinde yoğunlaşıyor. Daha küçük yapay zeka şirketlerinin aynı güvenlik altyapısını kurmakta zorlanabileceği belirtiliyor.
Bu nedenle yapay zeka sektöründeki tartışma artık yalnızca modellerin ne kadar güçlü olduğu üzerinden ilerlemiyor. Şirketlerin bu sistemleri ne kadar kontrol edebildiği de giderek daha önemli hale geliyor.
OpenAI ajanları BM'nin sitesine kaba kuvvet saldırısı yapmaya çalıştıGüncel