Çin bağlantılı ChatGPT hesapları yakalandı: Sosyal medya gözetim planı ortaya çıktı

OpenAI, Çin bağlantılı olduğundan şüphelenilen bazı ChatGPT hesaplarını askıya aldığını açıkladı. Bu hesapların VPN aracılığıyla Çin’den ChatGPT’ye eriştiği belirtiliyor ve iddiaya göre bu profiller devlet ya da devletle ilişkili bir müşteri için çalışıyordu. Söz konusu kullanıcılar, sosyal medya paylaşımlarını izleme ve analiz etme, halkın görüş yönelimleri hakkında bilgi toplama gibi projeler üretmek için ChatGPT’yi kullandılar.

OpenAI, bu taleplerin sosyal medya gözetimi araçları adı altında sunulduğunu ve şirketin ulusal güvenlik politikalarını ihlal ettiğini bildirdi. OpenAI’nin Şubat 2025 güncellemesinde, bu tür faaliyetlerin şirketin Peer Review (Hakem İnceleme) adlı analiz ve araç tanıtım şeması kapsamında sınıflandırıldığı, hesapların ise davranış kalıpları, dil tercihleri ve işlem zamanlamalarıyla tanımlandığı ifade ediliyor.

Yapay zeka ne için kullanılmış?

Bu Çin kaynaklı ağlar, ChatGPT’yi; belgeleri analiz etme, kod düzenleme ve hata ayıklama, sosyal medya dinleme sistemlerinin tanıtımlarını hazırlama ve bu sistemlerle ilgili satış metinleri yazma gibi çeşitli amaçlarla kullanmış görünüyor. Qianyue Overseas Public Opinion AI Assistant (千阅境外舆情AI助手) adlı araç, sosyal medya platformlarındaki gönderileri ve yorumları toplama, Çin dışındaki protesto eğilimlerini izleme ve bu verileri Çin güvenlik birimlerine iletme iddiasıyla tanıtılmıştı. OpenAI, bu ağın aynı zamanda farklı dillerde anlık analizler oluşturmak, söz konusu paylaşımları yorumlamak ve bunları diplomatlara, elçiliklere ve istihbarat birimlerine sunmak amacıyla sistematik biçimde hareket ettiğini belirtti. 

Şirket ayrıca, bu hesapların modelden aldığı çıktıları doğrudan kullanmadığını, kendi sistemlerine entegre edilen başka modellerle bağlantılı çalıştığını söylüyor. Yani ChatGPT, gözetim aracının tüm yükünü taşımasa da planlama, analiz ve içerik üretiminde önemli roller üstlenmiş durumda. OpenAI’nin bu hamlesi, yapay zekanın devlet desteğiyle yapılan bilgi toplama ve gözetim projelerinde kötüye kullanılabileceğine dair endişeleri yeniden gündeme taşıdı. Bu vaka, teknolojik gelişmelerin etik ve güvenlik boyutlarının ne kadar kritik hale geldiğini gösteriyor.