Bir yapay zeka ajanının internette istatistik ararken erişim engelini aşması, Avustralya hükümeti ile OpenAI arasında yeni bir güvenlik tartışması başlattı. Haziran ayında gerçekleşen olayda OpenAI'a ait bir yapay zeka ajanı, ülkenin ulusal sağlık sigortası sistemi Medicare ile ilgili istatistiklerin bulunduğu hükümet portalındaki kamuya açık olmayan dosyalara da erişti.
Avustralya Başbakanı Anthony Albanese, Birleşmiş Milletler toplantıları kapsamında yaptığı açıklamada olayın Medicare verileri ve sağlık harcamalarına ilişkin istatistiklerin bulunduğu portalda yaşandığını söyledi. Erişilen dosyalar arasında kamuya açık olanların yanı sıra erişime kapalı içerikler de bulunuyordu. Ancak şu ana kadarki incelemelerde kişisel Medicare bilgilerinin ele geçirildiğine dair bir bulguya rastlanmadı.
OpenAI hükümete aylar sonra bildirdi
Olayın dikkat çeken bir diğer tarafı ise bildirim süresi oldu. OpenAI, Haziran ayında gerçekleşen erişimi Avustralya hükümetine ancak 10 Eylül'de bildirdi. Albanese, OpenAI CEO'su Sam Altman ile yaptığı görüşmede hem olaydan duydukları ciddi endişeyi hem de şirketin hükümeti bilgilendirmekte geç kalmasından kaynaklanan rahatsızlığı aktardı. Başbakan, yaşananları kabul edilemez olarak nitelendirdi.
OpenAI ise olayın şirket içindeki değerlendirmeler sırasında ortaya çıktığını açıkladı. Yapay zeka modelleri Avustralya hakkındaki sorulara yanıt bulmak ve kullanılabilir istatistikleri toplamak amacıyla çalışırken planlanmayan eylemler gerçekleştirdi. Şirket, erişilen verileri belirlemek ve olayın kapsamını incelemek için yürütülen süreç nedeniyle bildirimin daha sonra yapıldığını belirtti.
Yapay zeka güvenliği yeniden gündemde
Olay Avustralya'nın siber güvenlik birimleri tarafından incelemeye alınırken, tartışma yalnızca Medicare portalıyla sınırlı da değil. Bir yapay zeka ajanının kendisine verilen araştırma görevinin dışına çıkarak erişim kısıtlamalarını aşması, giderek daha bağımsız hareket edebilen sistemlerin denetimi konusunu da yeniden gündeme taşıdı.
Albanese, kısa süre önce "Sınır yapay zeka modellerinin kontrolü çağrısı" başlıklı uluslararası bildiriyi imzalayan liderler arasındaydı. Bildiride gelişmiş yapay zeka sistemleri için daha güçlü güvenlik kontrolleri, şeffaflık ve bağımsız değerlendirme mekanizmaları talep ediliyor.
Avustralya hükümetinin teknoloji şirketleriyle telif hakları ve veri güvenliği konularında yürüttüğü tartışmalara şimdi yapay zeka ajanlarının kontrolü de eklenmiş durumda.