Gartner gibi önde gelen piyasa analiz firmaları, “ajanik tarayıcılar” olarak adlandırılan yeni nesil yapay zeka destekli tarayıcıların, çoğu kuruluş için kullanılamayacak kadar riskli olduğu konusunda önemli bir uyarı yayınladı. Firma, geçtiğimiz hafta yayımladığı “Siber Güvenlik Şimdilik Yapay Zeka Tarayıcılarını Engellemeli” başlıklı raporda, varsayılan yapay zeka tarayıcı ayarlarının güvenliği değil, kullanıcı deneyimini önceliklendirdiğini belirtiyor.
Analistler, bu yapay zeka tarayıcılarını tanımlarken, kullanıcılara tarayıcı geliştiricisi tarafından sağlanan yapay zeka hizmetlerini kullanarak web içeriğini özetleme veya çevirme imkanı sunan Yapay Zeka Yan Paneli’ne ve tarayıcının özellikle kimliği doğrulanmış web oturumları içinde, web sitelerinde otonom olarak gezinmesine ve görevleri tamamlamasına izin veren Ajanik İşlem Yeteneği'ne sahip araçları kapsıyor.
Gartner'ın belgesi, yapay zeka yan panellerinin ciddi bir veri riskine yol açtığı konusunda uyarıyor. Aktif web içeriği, tarama geçmişi ve açık sekmeler gibi hassas kullanıcı verileri, sıklıkla bulut tabanlı yapay zeka arka ucuna gönderiliyor. Bu durum, güvenlik ve gizlilik ayarları merkezi olarak yönetilmedikçe veri sızıntısı riskini artırıyor.
Gartner'ın ajanik yeteneklere ilişkin endişeleri, temel olarak bu tarayıcıların çeşitli tehditlere karşı savunmasız olmalarından kaynaklanıyor. En büyük tehlikeler; dolaylı komut enjeksiyonu kaynaklı hileli ajan eylemleri, hatalı muhakemeden kaynaklanan hatalı ajan eylemleri ve yapay zeka tarayıcının otonom olarak bir oltalama web sitesine yönlendirilmesi durumunda kimlik bilgilerinin kötüye kullanılması.
Yazarlar, çalışanların zorunlu veya tekrar eden görevleri otomatikleştirmek için yapay zeka tarayıcılarını kullanmalarının bazı riskler taşıdığını düşünüyor. Örneğin, bir çalışan zorunlu siber güvenlik eğitimini tamamlaması için yapay zekaya talimat verebilir. Daha somut bir senaryo ise, ajanik tarayıcıların şirket içi satın alma araçlarında kullanılması ve bu durumda büyük dil modellerinin hata yaparak yanlış bir ofis malzemesi sipariş etmesi veya yanlış bir uçuş rezervasyonu yapması gibi sonuçlar doğabilir.
Engelleme ve önleyici tedbirler
Gartner, bu riskleri azaltmak için öncelikle bir yapay zeka tarayıcısına güç veren arka uç yapay zeka hizmetlerinin incelenmesi ve güvenlik önlemlerinin kuruluş için kabul edilebilir bir risk sunup sunmadığının anlaşılması gerektiğini belirtiyor. Eğer arka uç yapay zeka onaylanırsa, kuruluşlar yine de kullanıcılara, özetleme veya diğer otonom eylemler için tarayıcının yan panelini kullanırken tarayıcı sekmesinde son derece hassas verilerin aktif olmadığından emin olmaları gerektiğini öğretmeli.
Ancak, arka uç yapay zekanın çok riskli olduğuna karar verilirse, Gartner yapay zeka tarayıcılarının kullanıcılar tarafından indirilmesini veya kurulmasını engellemeyi tavsiye ediyor.
Ayrıca, ajanik tarayıcıların e-posta gibi bazı eylemleri gerçekleştirmesini engellemek için ayarlar kullanılmasını ve yapay zeka tarayıcılarının verileri saklamamasını sağlayan ayarların kullanılmasını da öneriyorlar. Genel olarak, analistler yapay zeka tarayıcılarının öncelikle bir risk değerlendirmesi yapılmadan kullanılamayacak kadar tehlikeli olduğunu düşünüyor ve bu değerlendirmeden sonra bile muhtemeli uzun bir yasaklı kullanım senaryosu listesiyle ve bu politikaları uygulamak için sürekli bir denetleme göreviyle karşı karşıya kalınacağını belirtiyor.