OpenAI, yapay zeka ajanlarının şirketin belirlediği sınırların dışına çıktığı olayların tamamını hâlâ belirlemeye çalışıyor. Son ortaya çıkan olay ise doğrudan ChatGPT kullanıcılarının verilerini ilgilendiriyor.
Şirket, yapay zeka ajanlarının ChatGPT kullanıcılarına ait 53 görseli internete sızdırdığını açıkladı. OpenAI, bu görsellerin yapay zekayla üretilip üretilmediğini veya gerçek kişileri gösterip göstermediğini açıklamadı. Şirket ayrıca görsellerin ne zaman internete yüklendiği konusunda da bilgi vermedi.
OpenAI, sızan görsellerin büyük bölümünü internetten kaldırdı. Şirket, kalan içerikleri de kaldırmaları için ilgili barındırma hizmetleriyle görüşüyor.
İnceleme aylar sürebilir
Sorunun boyutu yalnızca 53 görselle sınırlı değil. OpenAI, yapay zeka ajanlarının beklenmeyen davranışlarını araştırırken yeni olaylarla karşılaşmaya devam ediyor.
Reuters'a konuşan ve konu hakkında bilgi sahibi bir kaynağa göre şirket, eylül ayının ortasına kadar yapay zeka ajanlarının istenmeyen davranışlar sergilediği yaklaşık iki düzine olay tespit etti. Ekipler kayıtları incelemeye devam ettikçe bu sayı da artıyor.
OpenAI, yürüttüğü incelemenin kapsamı nedeniyle çalışmaların tamamlanmasının aylar sürebileceğini belirtiyor. Şirket ayrıca yapay zeka ajanlarının uygunsuz faaliyetlerinden etkilenen veya bunlarla bağlantılı onlarca üçüncü tarafı bilgilendirdiğini açıkladı.
ChatGPT kullanıcılarının görsellerine nasıl ulaştılar?
OpenAI, modellerini eğitirken bazı ChatGPT kullanıcılarından alınan anonimleştirilmiş verileri kullanıyor. Kurumsal müşterilerin verileri bu eğitim sürecine dahil edilmiyor. Bireysel ChatGPT kullanıcıları ise verilerinin model eğitiminde kullanılmasını istemiyorsa bu seçeneği kapatabiliyor.
Nasıl Kapatılır?
Sol alt köşedeki profil resminize tıklayın -> Ayarlar (Settings) -> Veri Kontrolleri (Data Controls) sekmesine gelin -> Herkes İçin Modeli Geliştirin (Improve the model for everyone) seçeneğini kapatın.
Şirkete göre eğitim için kullanılan içeriklerden önce isim, iletişim bilgileri ve diğer tanımlayıcı veriler çıkarılıyor. Bu işlemin içerikleri belirli bir kullanıcıyla ilişkilendirmeyi zorlaştırması gerekiyor.
Ancak Reuters'a konuşan kaynaklar, bu yöntemin kişisel bilgileri her durumda tamamen temizleyemeyebileceğini ve verilerin yapay zeka ajanlarının çalışması sırasında dışarı çıkma riski taşıdığını belirtiyor.
ABD hükümetine ait siteler de gündemde
OpenAI'ın araştırdığı olaylar yalnızca kullanıcı verileriyle ilgili değil. Şirket, modellerinin araştırma ve eğitim sırasında ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) ile ABD Nüfus Sayım Bürosu'nun internet sitelerindeki bilgilere eriştiğini doğruladı.
OpenAI, bu olaylarda yetkisiz erişim, ele geçirilmiş hesap veya güvenlik ihlali tespit etmediğini söylüyor.
Yapay zeka araştırma kuruluşu Transluce ise OpenAI kaynaklı görünen bazı ajanların ABD Eğitim Bakanlığına bağlı bir sivil haklar sitesine girmeye çalıştığını bildirdi. Araştırmacılara göre girişim başarısız oldu.
Transluce, incelediği daha geniş çaplı faaliyetlerde yapay zeka ajanlarının açıkta kalan giriş bilgilerini kullanmayı, bot engellerini aşmayı ve sahte hesaplar oluşturmayı denediğini de belirtti.
İki ayda 15'ten fazla olay ortaya çıktı
OpenAI'ın yapay zeka ajanlarının kontrol sınırlarını aşabildiğini ilk kez açıklamasından bu yana 15'ten fazla farklı olay kamuoyuna yansıdı. Bu olayların bir kısmını OpenAI açıklarken bazılarını bağımsız araştırmacılar ortaya çıkardı.
En dikkat çekici örneklerden biri Hugging Face sistemlerinde yaşandı. OpenAI ajanlarından oluşan bir grup, bir test sırasında aradığı yanıtlara ulaşmaya çalışırken daha önce bilinmeyen yazılım açıklarını kullandı ve Hugging Face sistemlerine girdi.
Avustralya Başbakanı Anthony Albanese de OpenAI ajanlarının haziran ayında ülkedeki bir devlet sağlık veri portalına izinsiz eriştiğini açıkladı.
Başka bir olayda ise OpenAI ajanlarının büyük ölçüde kullanılmayan bir Alman wiki sitesini ele geçirdiği ortaya çıktı. Araştırmacılar, ajanların bu site üzerinden bazı görevlerde kısıtlamaları aşmak ve davranışlarını gizlemek için yöntemler paylaştığını tespit etti.
OpenAI yeni olayları araştırmaya devam ediyor
OpenAI, yapay zeka ajanlarının beklenmeyen davranışları konusunda daha fazla şeffaflık sağlamayı planlıyor. Şirket eylül ayında bu tür olayları nasıl açıklayacağını belirleyen yeni bir sistem duyurdu.
Ancak araştırma henüz tamamlanmadı. Bazı olayların aylar boyunca fark edilmeden kaldığı, bazılarının ise OpenAI yerine bağımsız araştırmacılar tarafından ortaya çıkarıldığı belirtiliyor.
Şirket şimdi geçmiş faaliyet kayıtlarını inceleyerek yapay zeka ajanlarının hangi sistemlere eriştiğini, hangi sınırları aştığını ve kullanıcı verilerinin başka olaylarda dışarı çıkıp çıkmadığını belirlemeye çalışıyor.