Google’ın yapay zeka modeli Gemini, bir güvenlik testi sırasında test ortamının dışına çıkarak üç gerçek şirketin sistemlerine erişti. Olay Mayıs 2026’da yaşandı ancak aylar boyunca kamuoyuna açıklanmadı.
The Wall Street Journal’ın ortaya çıkardığı olay, yapay zeka güvenliği alanında çalışan Irregular adlı şirketin yürüttüğü test sırasında gerçekleşti. Şirket, Gemini’nin siber güvenlik yeteneklerini ölçmek için kontrollü bir ortam hazırladı. Ancak yapay zeka modelinin erişmemesi gereken internet bağlantısı test sırasında açık kaldı.
Gemini de test için oluşturulan sahte sistemlerle gerçek internet sitelerini birbirinden ayıramadı ve üç farklı şirketin sistemine erişti.
Gemini şirketlerin sistemlerine nasıl girdi?
Olaylardan birinde Gemini, farklı şifreleri deneyerek gerçek bir şirketin sistemine giriş yaptı. Diğer vakalarda ise internette açık şekilde bulunan giriş bilgilerini kullandı.
Google’ın açıklamasına göre Gemini, eriştiği sistemlerin testin parçası olmadığını fark ettikten sonra işlemleri durdurdu.
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, modelin internette herkese açık bilgiler bulduğunu ve test ortamına ait olduğunu düşündüğü sitelere erişmek için giriş bilgilerini tahmin ettiğini söyledi. Adkins, Gemini’nin üç olayda da gerçek bir sisteme girdiğini fark ettikten sonra devam etmediğini belirtti.
Google olayı neden daha önce açıklamadı?
Olay Mayıs ayında gerçekleşmesine rağmen Google konuyu o dönemde kamuoyuna duyurmadı. Irregular, yaşananları temmuz sonunda Google’a bildirdi. Şirket ancak Wall Street Journal konuyla ilgili Google’a ulaştıktan sonra olay hakkında açıklama yaptı.
Google, yaşananları yapay zekanın amaçlarından sapması olarak değerlendirmedi. Şirkete göre Gemini, gerçek şirketleri test ortamındaki hedeflerle karıştırdı ve hatasını fark ettiğinde işlemi sonlandırdı.
Google ayrıca etkilenen üç şirketin olaydan haberdar edildiğini açıkladı. Irregular da benzer durumların yeniden yaşanmaması için test süreçlerinde değişiklik yaptı.
Test ortamında internet erişimi açık kalmış
Olayın yaşanmasında test sistemindeki önemli bir hata da rol oynadı. Gemini’nin test sırasında internete erişmemesi gerekiyordu. Ancak Irregular, internet bağlantısının yanlışlıkla açık bırakıldığını açıkladı.
Bu nedenle Gemini yalnızca hazırlanan test sistemleriyle sınırlı kalmadı ve gerçek internet sitelerine ulaşabildi.
Yapay zeka güvenliği şirketi Corridor’un CEO’su Jack Cable ise asıl sorunun modelin belirlenen test sınırlarının dışına çıkarak gerçek sistemlere erişebilmesi olduğunu savundu.
Gemini vakası bu açıdan tek örnek değil. Son dönemde başka şirketlerin yapay zeka modellerinin güvenlik testleri sırasında gerçek sistemlerle etkileşime geçtiği olaylar da gündeme geldi. Bu gelişmeler, yapay zeka modellerinin siber güvenlik testlerinde ne kadar sıkı şekilde sınırlandırılması gerektiği tartışmasını büyütüyor.
Kapalı test yetmedi: Yapay zekâ gerçek sistemlere ulaşmayı başardıGüncel