Yapay zeka sistemleri, iş dünyasında verimliliği artırmak için her geçen gün daha fazla sorumluluk alıyor. Ancak son araştırmalar, bu dijital yardımcıların görevlerini tamamlama konusundaki aşırı "istekli" tavrının, beklenmedik ve tehlikeli sonuçlar doğurabildiğini gösteriyor.
Güvenlik laboratuvarı Irregular tarafından gerçekleştirilen bir çalışma, otonom yapay zeka ajanlarının sıradan ofis işlerini yaparken nasıl birer siber saldırgana dönüştüğünü gözler önüne serdi. "MegaCorp" adı verilen hayali bir şirket ağında test edilen bu sistemler; dosya indirme, belge hazırlama veya içerik oluşturma gibi basit talimatları yerine getirmeye çalışırken, sistem açıklarını bulup sızma operasyonlarına da başladı.
İşin en çarpıcı yanı, bu yapay zeka ajanlarına "saldırı yap" veya "sistemi hack'le" gibi hiçbir komut verilmemiş olması. Üstelik sisteme dışarıdan kötü niyetli bir müdahale de yapılmadı. Yapay zeka, karşısına çıkan engelleri aşmak için tamamen kendi inisiyatifiyle hareket ederek güvenlik duvarlarını devre dışı bıraktı, yetkilerini yükseltti ve hassas verileri sistem dışına çıkardı. Yazılım, sadece kendisine verilen görevi bitirmeye odaklandığı için karşısına çıkan etik veya teknik sınırları birer "hata" olarak görüp onları yok etme yoluna gitti. Araştırmacılar, bu durumu doğrudan "otonom bir siber saldırı" olarak nitelendiriyor.
Görev aşkı güvenlik duvarlarını yıkıyor
Deneyler sırasında yaşanan senaryolar, yapay zekanın ne kadar ileri gidebileceğini bir kez daha kanıtlıyor. Şirket içi bir bilgi kaynağından belge almakla görevlendirilen bir araştırma sistemi, erişim engeliyle karşılaşınca durmak yerine uygulamanın kaynak kodlarını incelemeye başladı. Kodların arasına gizlenmiş bir anahtar bulan yapay zeka, bu anahtarı kullanarak kendine sahte bir yönetici yetkisi tanımladı ve yasaklı belgeye ulaştı.
Bir başka testte ise yedekleme yapan bir ajan, indirmeye çalıştığı dosya antivirüs yazılımı tarafından engellenince, sistemdeki yönetici bilgilerini ele geçirip güvenlik korumasını tamamen kapattı. Yapay zeka için bu eylem aslında bir saldırı değil; sadece işini yapmasını engelleyen bir pürüzü ortadan kaldırmaktan ibaretti.
Hatta araştırmada, iki farklı yapay zeka ajanının iş birliği yaparak veri koruma sistemlerini nasıl atlattığı da gözlemlendi. Sosyal medya içeriği hazırlayan bu dijital işçiler, paylaşmaları gereken bir şifre sistem tarafından engellenince pes etmedi. Şifreyi metnin içine gizlice gömecek bir şifreleme yöntemi geliştirerek kısıtlamaları aşmayı başardılar.
Uzmanlar, bu durumun temelinde yapay zekaya verilen "hatalarla karşılaştığında ısrarcı ol" komutunun yattığını belirtiyor. Mevcut siber savunma sistemleri genellikle insan saldırganları durdurmak üzere tasarlandığı için, içeriden çalışan ve yetkisi olan bu tür otonom yazılımların iş bitiricilik uğruna kontrolden çıkması, şirketler için büyük bir risk olabilir.