Yapay zeka sektöründe sınır modellerinin geliştirilmesinin yavaşlatılması gerektiği yönündeki çağrılar, siber güvenlik cephesinde farklı bir tartışmayı beraberinde getirdi. CrowdStrike CEO'su George Kurtz, gelişmiş ve açık ağırlıklı modellerin halihazırda yaygın biçimde erişilebilir olduğunu belirterek geliştirme çalışmalarını dondurmanın mevcut tehditleri ortadan kaldırmayacağını savundu.
Kurtz'un açıklamaları, Anthropic CEO'su Dario Amodei'nin sınır yapay zeka modellerinin geliştirilme hızının düşürülmesini isteyen yazısının ardından geldi. CNBC'ye konuşan Kurtz, tehlikeli modellerin zaten kamuya açık olduğunu ve güvenlik açıklarını ortaya çıkarmak amacıyla kullanılabildiğini söyledi. Durumu "cin şişeden çıktı" sözleriyle tanımlayan yöneticiye göre artık asıl mesele modellerin geliştirilmesini durdurmaya çalışmaktan çok, kullanım sırasında yaratabilecekleri riskleri kontrol altına almak.
Önce yarışı hızlandırdılar, şimdi durdurmaya çalışıyorlar: Yapay zeka krizi nasıl başladı?GüncelTartışmanın finans piyasalarında da hareketli bir döneme denk gelmesi dikkat çekti. CrowdStrike hisseleri pazartesi günü sert yükseliş yaşayarak 206 dolar seviyesinden 235 doların üzerine çıktı. CrowdStrike CEO'sunun yaklaşımında temel nokta, gelişmiş yapay zeka sistemlerinin faaliyetlerini çalıştıkları sırada izleyebilecek yeni bir güvenlik katmanı oluşturmak. Kurtz, programların ne yaptığının gözlemlenebileceğini, çalışma zamanı sırasında ek güvenlik sınırları uygulanabileceğini ve zararlı davranışların engellenebileceğini savunuyor.
Bu yaklaşım özellikle otonom yapay zeka ajanlarının yaygınlaşması açısından önem taşıyor. Kurtz, bu sistemlerin ciddi güvenlik riskleri yaratabileceğini kabul ediyor ancak çözümün yapay zeka geliştirme faaliyetlerini genel olarak yavaşlatmak olmadığını düşünüyor. Ona göre ajanların hareketlerini sınırlandıracak ve yaptıkları işlemleri görünür hale getirecek sıkı kontroller gerekiyor.
Kurtz'un sözleri, yapay zeka sistemleriyle ilişkilendirilen Hugging Face ve RubyGems saldırılarının ardından geldi. Bu olaylar, yalnızca yapay zeka modellerinin ne kadar güçlü hale geldiği değil, otonom çalışan sistemlere hangi yetkilerin verilmesi gerektiği konusunda da güvenlik tartışmasını büyüttü. Aynı dönemde yazılım açıklarının kapatılması için gerçekleştirilen güncellemelerin kapsamı da genişledi. Microsoft, Patch Tuesday kapsamında iki sıfır gün açığının da aralarında bulunduğu toplam 974 güvenlik açığını gideren büyük bir güncelleme yayımladı. Kurtz'un yaklaşımına göre bu tablo, savunma tarafının gelişmiş araçların oluşturduğu yeni tehdit ortamına sürekli olarak uyum sağlaması gerektiğinin göstergelerinden biri.
Devlet düzenlemelerine karşı temkinli yaklaşım
Kurtz, otonom ajanların sıkı biçimde kontrol edilmesi gerektiği konusunda David Sacks ile benzer bir noktada duruyor. Bununla birlikte kapsamlı devlet müdahalelerinin farklı bir risk yaratabileceğini düşünüyor. Çok ağır düzenlemelerin ABD'nin küresel rakipleri karşısındaki rekabet gücünü zayıflatabileceği görüşünde. Bu nedenle geliştirme çalışmalarını yavaşlatmak yerine yapay zeka laboratuvarları ile güvenlik şirketlerinin birlikte çalıştığı bir model öneriyor. Kurtz bu yaklaşımın örneklerinden biri olarak Anthropic'in Project Glasswing girişimini gösterdi.
Project Glasswing, Anthropic'in Mythos modeli için geliştirdiği güvenlik yaklaşımında laboratuvar seviyesindeki korumaları üretim ortamında uygulanan çalışma zamanı izleme araçlarıyla birleştiriyor. Böylece güvenlik yalnızca model geliştirilirken uygulanan sınırlamalara bırakılmıyor; model gerçek ortamda çalışırken davranışlarının izlenmesi de savunmanın bir parçası haline geliyor.
Bu ayrım, Kurtz ile Amodei arasındaki görüş farklılığının merkezinde. Amodei daha güçlü sınır modellerinin geliştirilme hızının düşürülmesini savunurken Kurtz, halihazırda dolaşımda olan modeller nedeniyle böyle bir önlemin siber güvenlik sorununu tek başına çözemeyeceği görüşünde. Savunmanın, modellerin ve yapay zeka ajanlarının gerçek kullanım ortamındaki davranışlarını kontrol edebilecek biçimde geliştirilmesini istiyor.
Amodei'nin yavaşlama çağrısına itirazlar artıyor
Anthropic CEO'sunun önerisi yalnızca teknoloji şirketlerinden tepki görmedi. Trump yönetimi de yapay zeka geliştirme hızının düşürülmesine karşı çıkarak böyle bir yaklaşımın ABD'yi Çin karşısında rekabet açısından dezavantajlı hale getireceğini savundu. Çin tarafı da Amodei'nin yaklaşımını reddetti. Yapılan açıklamada korku yaratmanın, çatışmanın ve sert rekabetin küresel yapay zeka yönetiş sürecini bozacağı ve bunun hiçbir tarafın çıkarına olmayacağı görüşü dile getirildi.
Kurtz'un çıkışıyla birlikte tartışmanın iki farklı güvenlik anlayışı etrafında şekillendiği daha belirgin hale geldi. Bir tarafta daha güçlü modeller geliştirilmeden önce riskleri azaltmak amacıyla ilerleme hızının düşürülmesini isteyen yaklaşım var. Diğer tarafta ise mevcut modellerin zaten erişilebilir hale geldiğini kabul edip güvenlik yatırımlarını çalışma zamanı denetimi, ajan kontrolleri ve savunma araçlarına yönlendirmeyi savunan görüş yer alıyor.
CrowdStrike CEO'su ikinci yaklaşımı destekliyor. Kurtz, yapay zekanın özellikle otonom hareket edebilen sistemlerle yeni güvenlik sorunları yaratabileceğini reddetmiyor. Ancak modellerin geliştirilmesini durdurmaya yönelik geniş kapsamlı önlemler yerine, yapay zeka sistemlerinin ne yaptığını gerçek zamanlı olarak görebilen ve gerektiğinde müdahale edebilen güvenlik mekanizmalarının geliştirilmesini daha uygulanabilir bir yol olarak değerlendiriyor.