Çin'de, ChatGPT ile sahte haber hazırlayıp yaydığı iddia edilen bir Çinli tutuklandı

Çin polisi, yanlış bilgi yaydığı iddiasıyla Çinli bir adamı tutukladı. Bu hikayeyi ilginç kılansa, adamın bahsi geçen haberi popüler AI sohbet robotu ChatGPT'yi kullanarak hazırlamış olması.

South China Morning Post (SCMP) tarafından bildirildiği üzere, Kuzey Çin’deki Gansu eyaletinde polis, 25 Nisan tarihinde dokuz kişinin hayatını kaybettiğinin söylendiği bir tren kazasına dair sahte makaleler yazdığı iddia edilen adamı tutukladı.

SCMP haberine göre polis, adamın soyadının Hong olduğunu bildirdi ve sahte hikayeyi oluşturmak için ChatGPT’yi kullandığını, ardından da çevrimiçi olarak birden fazla blog aracılığıyla yaydığını iddia etti. Hong, muhaliflere ve aktivistlere karşı kullanılan siyasi bir suç olan “çatışma ve sorun çıkarmakla” suçlandı. Bu suçlama, beş ile on yıl arasında hapis cezasıyla sonuçlanabiliyor.

Söz konusu haberin Çin blog platformu Baijiahao’daki birkaç düzine hesaba gönderildiği iddia ediliyor. Polisin, Hong’un Baijiahao’nun aynı içeriği birden fazla hesaba gönderme konusundaki kısıtlamalarını atladığını ve yaklaşık 15.000 tıklama elde etmek için haber makalesinin birden çok farklı sürümünü oluşturmak üzere ChatGPT’ye birkaç trend hikaye koyduğunu iddia ettiği bildirildi. Hong’un birden fazla blog türü satış noktası işleten bir şirketin sahibi olduğu iddia ediliyor. Platformların, Çin’in güneyindeki büyük bir teknoloji işletmesi ve üretim merkezi olan Shenzhen’de kayıtlı olduğu bildiriliyor.

Çin’in Siber Ortam İdaresi, Ocak ayında insanların yapay zekayı deepfake (sahte konuşma ve görüntü içerikleri) oluşturmak için kullanmasını kısıtlayan yeni bir yasa çıkardı. Yasa, video ve ses canlandırmalarına ek olarak, onaylı yayın organları listesi dışında yapay zeka tarafından oluşturulan haber hikayelerini sınırlıyor.

ChatGPT'ye Çin'de VPN ile erişilebiliyor

Çinli kullanıcılar ChatGPT’ye bir VPN aracılığıyla erişebilse de, Çinli firmalar ülkenin katı sansür politikalarına uyacak kendi sohbet robotlarını oluşturuyor. Baijiahao blog platformunun da sahibi olan Baidu gibi şirketler, şimdiden kendi üretken yapay zeka sistemleri üzerinde yoğun bir şekilde çalışıyor.

Bu olay Çin’in yeni AI karşıtı yönergeleri kapsamındaki ilk tutuklamalardan biri olsa da, yasanın siyasi çağrışımı (geçmişte, Çin’in bazı büyük tren kazalarını örtbas ederek bu kazalar hakkındaki haberleri sahte olarak yasakladığı iddia ediliyor) tutuklamayı uluslararası düzeyde sorgulanan bir noktaya taşıyor. Gansu polisinin özellikle ChatGPT kullanımına atıfta bulunması yeni bir şey, ancak polisin insanları söylentileri yaydığı iddiasıyla tutukladığı ilk sefer değil. Gansu polisinin, 2013 yılında, yalnızca Yang olarak tanımlanan lise çağındaki bir çocuğu internette “söylentiler” yaydığı iddiasıyla tutukladığı konuşuluyor. Genç adamın, bazı protestolara yol açan bir karaoke kulübünün çatısından düşerek ölen bir adam hakkında polisin ne kadar iyi soruşturma yürüttüğünü sorgulamıştı.

Ancak ChatGPT gibi sohbet robotlarının diğer yeteneklerinin yanı sıra yalan söylemekte de çok iyi olduklarını belirtmekte fayda var. Avustralya’daki yerel bir politikacı, AI tarafından yanlış bir şekilde hüküm giymiş bir suçlu olduğunun iddia edildiğini söyleyerek, sohbet robotu üreticisi OpenAI’ye iftira davası açtı. Yine de bu, hükümetlerin yapay zekayı meşru haberleri reddetmenin bir yolu olarak görmediği anlamına gelmiyor. Son zamanlarda, AI ile çalışan sivil özgürlük grupları, baskıcı hükümetlerin meşru haberleri itibarsızlaştırmak için “hepsi AI tarafından uyduruluyor” bahanesini kullanacaklarına dair endişelerini paylaştı.