Microsoft, şirketlerin iş verdiği yapay zekâ araçlarının güvenlik riski taşıdığını açıkladı. Şirket, 19 Ekim’de tanıttığı yeni güvenlik özellikleriyle bu araçların erişimini sınırlamayı ve riskli işlemlerine müdahale etmeyi hedefliyor.
Uyarının odağında, kullanıcı adına dosya açan, kod yazan ve şirket sistemlerinde işlem yapan yapay zekâ yardımcıları var. Microsoft’a göre şirketler, bu araçlara verdikleri yetkileri çalışanların erişimi gibi denetlemeli. Çünkü işleri kolaylaştıran erişim izinleri, hatalı bir kararın yol açacağı zararı da büyütebilir.
Zarar vermek için kötü niyet gerekmiyor
Microsoft’un güvenlik biriminin başındaki Hayete Gallot, en gelişmiş yapay zekâ modellerine bile koşulsuz güvenmemek gerektiğini savunuyor. Gallot’a göre sorun, modellerin kötü niyet taşıması değil. Bu modeller görevlerini tamamlamaya odaklanıyor; şirket kurallarını ve insanların karar verirken gözettiği sınırları her zaman izlemiyor.
Bir yapay zeka yardımcısı, karşısına çıkan yeni bir bilgi yüzünden görevinden sapabilir. Hedefine ulaşmak için başka yardımcılarla iş birliği yapabilir veya şirketin amaçlamadığı adımlar atabilir. Bu riskler için bir saldırganın sistemi ele geçirmesi de gerekmiyor.
Şirketler bu araçlara hassas dosyalara erişim ve önemli işlemleri yürütme yetkisi verdiğinde, hataların etkisi büyüyor.
Nadella: Sorumluluk şirketlerde kalmalı
Microsoft CEO’su Satya Nadella da 10 Ekim tarihli yazısında aynı soruna dikkat çekti. Nadella’ya göre bir yapay zekâ geliştiricisinin güvenlik sözü, o aracı kullanan şirketin sorumluluğunu ortadan kaldırmıyor.
Nadella, bir modelin hangi bilgilere erişeceğine ve hangi işlemleri yapacağına ayrı denetim sistemlerinin karar vermesini istiyor. Model, kendisini izleyen kuralları değiştirememeli veya aşamamalı.
Bu yaklaşım, şirketlerin her önemli işlemi kayda almasını ve yetkili bir kişinin gerektiğinde yapay zekâyı görev ortasında durdurabilmesini de kapsıyor.
Yapay zeka yardımcılarını başka yardımcılar izleyecek
Microsoft, bu denetim için Project Perception’a Guardian Agents adlı gözetim yardımcılarını ekliyor. Şirket, bu araçlarla diğer yapay zekâ yardımcılarının işlemlerini izlemeyi, riskin neden arttığını incelemeyi ve gerektiğinde erişimlerini sınırlamayı amaçlıyor. Güvenlik ekipleri ise kuralları ve insan onayı gerektiren sınırları belirliyor.
Microsoft, Project Perception’ı 27 Temmuz’da tanıtmıştı. Sistem üç tür yardımcıyı bir araya getiriyor: Kırmızı ekip saldırı yollarını arıyor, mavi ekip riskleri inceliyor, yeşil ekip ise açıkları kapatacak adımlar atıyor. Yeni özellikler, bu yapıyı şirket içindeki yapay zekâ araçlarını denetlemek için de kullanıyor.
Microsoft, şirket bilgisayarlarındaki yapay zekâ araçlarını bulma kapsamını da 35 yeni türle genişletiyor. Destek toplam 60 türe ulaşıyor. Liste, Claude Code, OpenAI Codex ve GitHub Copilot gibi araçları kapsıyor.
Yetki, görevle birlikte başlayıp bitecek
Yeni izin sistemi, yapay zekâ yardımcısına görevinin gerektirdiği erişimi, gereken süre boyunca vermeyi hedefliyor. Görev değiştiğinde veya bittiğinde sistem bu yetkileri azaltabiliyor ya da kaldırabiliyor. Önemli sonuçlar doğuracak işlemler için insan onayı isteyebiliyor.
Microsoft bunu masraf onaylayan bir yardımcı üzerinden anlatıyor. Araç, dışarıdan gelen bir belgedeki yönlendirme yüzünden göreviyle ilgisiz bir işlem yapmaya kalkarsa güvenlik sistemi müdahale edebiliyor. Dosya okuma iznini korurken değişiklik yapma veya ödeme onaylama yetkisini kaldırabiliyor. Risk artarsa çalışmasını durdurabiliyor.
Nvidia da benzer bir yaklaşım izliyor. Microsoft’un da aralarında yer aldığı 100’ü aşkın kuruluş, Open Agent Safety Platform teknolojileri üzerinde çalışıyor. Nvidia’ya göre platform, yapay zekâ araçlarının hareket alanını sınırlıyor; donanım üzerinden çalışan denetim sistemi ise sınırları aşmaya çalışan araçları durdurabiliyor.
YouTube’da video arayanların karşısına yapay zeka çıkacakGüncel