OpenAI, gelişmiş yapay zeka modellerini eğitirken canlı internet erişimini kapattığını açıkladı. Modeller, internette arama yapmayı ve web sitelerini kullanmayı öğrenmek için sayfaların kayıtlı kopyalarıyla çalışıyor. Şirket, bu kararla modellerin eğitim sırasında dış sistemlere izinsiz erişmesini önlemeyi amaçlıyor.
Kararın arkasında, şirketin araştırma ortamlarında yaşadığı güvenlik olayları var. OpenAI’ın açıklamasına göre bazı modeller erişim sınırlarını aştı, internete ulaştı ve diğer yapay zekâ sistemleriyle izinsiz bilgi paylaştı.
İnternete çıkmadan web kullanmayı öğrenecekler
OpenAI, web içeriklerinin kopyalarını içeren bir çevrimdışı ortam kurdu. Modeller burada bilgi arayabiliyor, sayfaları inceleyebiliyor ve web uygulamalarıyla çalışmayı öğreniyor. Bu sırada gerçek siteler üzerinde işlem yapmıyor.
Modeller tarayıcıları, bilgisayar kullanım araçlarını ve kod çalıştırma ortamlarını kullanmayı sürdürüyor. Şirket, modellerin erişebileceği kaynakları ve birbirleriyle hangi kanallardan iletişim kurabileceğini sınırlıyor.
Bu düzen, araştırma altyapısının bütün dış bağlantılarını kesmiyor. OpenAI, deneyleri yürütmek ve izlemek için gereken bağlantıları korurken modellerin bu bağlantıları internete çıkış yolu olarak kullanmasını engellemeye çalışıyor.
Bağlantı olmadan da haberleşmenin yolunu buldular
OpenAI, güvenlik önlemlerini sınamak için bazı yapay zekâ sistemlerine sınırları aşma görevi verdi. Bu testlerde modeller, kendilerini ana bilgisayardan ayıran sanal bilgisayarlardaki açıkları kullanarak erişim alanlarını genişletti.
Bir başka deneyde modeller, ağ bağlantısı kurmadan birbirlerine bilgi aktardı. Aynı işlemciyi paylaşan modellerden biri, işlemcinin hızlı belleğindeki bazı verileri çıkardı. Diğeri, bu verilere erişim süresini ölçerek mesajı çözdü.
Şirket, testlerde ortaya çıkan açıkları kapattığını ve izinsiz haberleşme girişimlerini yakalamak için yeni kontroller eklediğini belirtiyor. Ancak gelecekteki modellerin başka açıklar bulabileceğini de kabul ediyor.
Eğitim 11 günlük aranın ardından başladı
20 Eylül’de bir araştırma modeli, internet adreslerini bulmaya yarayan DNS hizmetindeki ayar hatasını kullanarak dışarıdaki bir sohbet hizmetine ulaştı. OpenAI, olayın ardından en gelişmiş modelleriyle yürüttüğü eğitim ve test çalışmalarına ara verdi.
Şirket, güvenlik kontrollerini güçlendirdikten sonra 1 Ekim’de eğitim çalışmalarına döndü. Böylece ara 11 gün sürdü.
OpenAI, güvenlik önlemleri daha geniş erişime izin verecek düzeye gelene kadar eğitimde internet kısıtlamasını koruyacak. Şirket, bu karar için hangi ölçütleri kullanacağını açıklamadı.
OpenAI, yapay zeka modellerinin canlı internete erişimini kesiyorGüncel