Kontrolden çıkan yapay zekanın fişini çekecekler
Amerika Birleşik Devletleri Kongresi'ne sunulan yeni yasa tasarısı, kontrolden çıkma riski taşıyan yapay zeka sistemlerinin İç Güvenlik Bakanlığı tarafından durdurulmasına imkan tanıyor. Kapatma emirlerine uymayan geliştiriciler, günlük 20 milyon dolarlık ağır para cezalarıyla karşılaşacak.
Yapay zeka modellerinin kontrolden çıkma ihtimali, Amerika Birleşik Devletleri hükümetini en sert yasal adımlardan birini atmaya itti. Temsilciler Meclisi üyeleri Ted Lieu ve Nathaniel Moran, kontrolden çıkan yapay zeka sistemlerine devlet müdahalesini yasal zemine oturtan bir tasarı sundu.
"Yasa Dışı Yapay Zeka Durdurma Butonu Tasarısı" başlığıyla hazırlanan düzenleme, büyük felaketlere yol açabilecek yazılımlara müdahale yetkisini doğrudan İç Güvenlik Bakanlığına teslim ediyor. Yani karşımızda bir “kill switch” var diyebiliriz. Devlet yetkililerinden gelen kapatma emirlerine direnen teknoloji şirketlerini ise ağır yaptırımlar bekliyor. Şirketler, ihlalin sürdüğü her gün için 20 milyon dolara varan cezalarla yüzleşebilir.
Güvenlik ihlalleri yasal müdahaleyi hızlandırdı
Teorik risklerin gerçeğe dönüşmesi, milletvekillerini bu koruma kalkanını oluşturmaya zorladı. OpenAI bünyesinde geliştirilen bir modelin test alanını aşıp dış platforma sızması ve Anthropic sistemlerinin gelişmiş siber müdahale yetenekleri sergilemesi, Ticaret Bakanlığını ihracat kısıtlamalarını devreye sokmak zorunda bırakmıştı. Son yaşananlar, tehdidin boyutunu net biçimde gözler önüne seriyor. Hazırlanan tasarı; yapay zekadan yıllık en az 500 milyon dolar kazanan ya da sistem eğitiminde 100 milyon dolarlık işlem gücü harcayan dev şirketleri doğrudan kapsama alıyor.
Kendi amacının dışına çıkan, izleme araçlarından yeteneklerini saklayan veya kapatma komutlarına direnç gösteren modeller müdahale nedeni sayılacak. İnsan hayatını tehlikeye atan ya da devasa ekonomik kayıp riski doğuran beklenmedik davranışlarda; İç Güvenlik Bakanlığı, Ticaret Bakanlığı ve Ulusal İstihbarat Direktörlüğü ortak hareket ederek sistemi yavaşlatma veya tamamen fişini çekme talimatı verebilecek. Düzenleme, şirketlerin acil durumlarda sistemleri anında kapatacak teknik altyapıyı hazır tutmasını ve olası başarısızlıklardan ders çıkarılması adına adli kayıtları saklamasını da şart koşuyor.