Yapay zeka sistemleri giderek daha fazla alanda karar vermeye başlarken bu sistemlerin güvenliği de tartışma konusu olmaya devam ediyor. Microsoft CEO'su Satya Nadella, X hesabından yaptığı paylaşımda yapay zekânın kontrolsüz kullanımına karşı alınması gereken önlemleri anlattı. Nadella'ya göre şirketlerin yalnızca yapay zekânın neler yapabildiğine değil, bu sistemleri nasıl denetleyeceklerine de odaklanması gerekiyor.
Nadella'nın üzerinde durduğu ilk konu, yapay zekânın kendi kararlarını denetlemesi. Microsoft CEO'su, önemli kararları tek bir yapay zekâ modeline bırakmanın risk taşıdığını düşünüyor. Ona göre bir model, yaptığı işlemin doğruluğunu tek başına kontrol etmemeli. Bunun yerine bağımsız sistemler ve insanlar devreye girmeli.
Yapay zekanın attığı her adım kayıt altına alınmalı
Nadella, yapay zekâ sistemlerinin gerçekleştirdiği önemli işlemlerin geriye dönük incelenebilmesini istiyor. Bunun için sistemlerin her işlemi insanların anlayabileceği biçimde kaydetmesi ve kimsenin bu kayıtları sonradan değiştirememesi gerekiyor.
Böylece bir yapay zekânın neden belirli bir karar verdiğini anlamak isteyen kişiler, yalnızca modelin kendi açıklamasına güvenmek zorunda kalmayacak. İşlem kayıtlarını inceleyerek sistemin hangi adımları izlediğini kontrol edebilecek.
Güvenlik testleri de bu yaklaşımın bir parçası. Nadella'ya göre şirketler, yapay zekâyı yalnızca başarılı olduğu görevlerle sınamamalı. Hatalar, siber saldırılar, beklenmedik durumlar ve sistemdeki değişiklikler de testlerin kapsamına girmeli.
Microsoft CEO'su, bağımsız denetçilerin yapay zekâ modellerinin hangi verilere erişebildiğini ve hangi işlemleri gerçekleştirebildiğini inceleyebilmesi gerektiğini savunuyor. Ayrıca denetim sürecini, denetlenen modelden ayrı bir sistemin yürütmesini istiyor.
Gerektiğinde yapay zekanın fişini çekebilmeliyiz
Nadella'nın açıklamalarındaki dikkat çekici noktalardan biri de yapay zekâ sistemlerini durdurma yetkisi. Microsoft CEO'su, yetkili kişilerin bir yapay zekâ modelini görev sırasında duraklatabilmesi veya tamamen kapatabilmesi gerektiğini söylüyor.
Bu yaklaşımı acil durum frenine benzeten Nadella, sistemler ne kadar gelişirse gelişsin kontrolün insanlarda kalmasını istiyor. Daha yetenekli yapay zekâ modelleri ortaya çıktıkça güvenlik önlemlerinin de gelişmesi gerektiğini belirtiyor.
Nadella ayrıca bu tür kontrol mekanizmalarının tüm sektörün uyguladığı ortak kurallara dönüşmesini savunuyor. Böylece şirketler, yapay zekâ güvenliği konusunda birbirinden farklı yöntemler yerine ortak standartlardan yararlanabilecek.
Güvenlik sorunlarını gizlemek yerine paylaşmak gerekiyor
Microsoft CEO'sunun gündeme getirdiği bir diğer konu ise yapay zekâ sistemlerinde yaşanan güvenlik sorunları. Nadella, bir sistem arızalandığında veya saldırganlar sistemin kontrolünü ele geçirdiğinde şirketlerin bundan etkilenen kişileri zamanında bilgilendirmesi gerektiğini belirtiyor.
Üstelik yalnızca sorunu duyurmak da yeterli değil. Şirketlerin hangi hatanın yaşandığını, hangi güvenlik önlemlerinin işe yaramadığını ve sistemin davranışını nelerin değiştirdiğini sektörle paylaşması gerekiyor.
Nadella'nın yaklaşımının temelinde ise yapay zekâya en baştan sınırsız güven vermemek yatıyor. Microsoft CEO'su, şirketlerin bir modeli ilk günden güvenilmez kabul ederek gerekli kontrolleri kurmasını öneriyor.
Bu açıklamalar, yapay zekâ sistemleri daha fazla sorumluluk üstlendikçe insan denetiminin neden önemli hale geldiğini de ortaya koyuyor. Nadella'ya göre yapay zekânın güvenli çalışması için yalnızca gelişmiş modeller üretmek yetmiyor. Şirketlerin bu modellerin kararlarını inceleyebilmesi, hatalarını tespit edebilmesi ve gerektiğinde çalışmalarını durdurabilmesi gerekiyor.
Anthropic'in yapay zekası, polisi birbirine kattıGüncel