Grok'un yasa dışı içerik üretmek için kullanılabildiği yönündeki eleştiriler sürerken, xAI dikkat çeken bir adım attı. Elon Musk'ın şirketi, sohbet botunu çocuk istismarı görüntüleri üretmek için kullandığı iddia edilen bir kullanıcı hakkında dava açtı. Şirket, bu davayla birlikte yapay zekâ tarafından oluşturulan içeriklerden yalnızca kullanıcıların sorumlu tutulması gerektiğini de savunuyor.
xAI'nin hedefindeki isim belli oldu
Davanın merkezinde Terry Wayne Harwood yer alıyor. Harwood, Güney Carolina'da çocuk cinsel istismarı materyali bulundurmak ve dağıtmak suçlamalarıyla daha önce gözaltına alınmıştı.
xAI'nin iddiasına göre Harwood, aylar boyunca iki farklı Grok hesabını kullanarak gerçek kişilere ait fotoğrafları izinsiz şekilde çıplak hale getiren görseller üretti. Şirket, mağdurlar arasında yaklaşık 10 yaşında görünen bir kız çocuğunun da bulunduğunu öne sürdü. xAI, bu faaliyetleri tespit ettikten sonra güvenlik güçlerine bilgi verdiğini belirtti.
Grok hakkında yeni suçlamalar gündemde
Bu dava, Grok nedeniyle açılan tek hukuki süreç değil.
Kısa süre önce başka bir kız çocuğu da xAI'ye karşı hazırlanan toplu davaya katıldı. İddiaya göre üvey babası, Grok ve başka yapay zekâ araçlarını kullanarak yaklaşık 7 bin cinsel içerikli sahte görüntü oluşturdu. Daha sonra bu görselleri dark web üzerinden paylaştı. Aynı kişi olayın ortaya çıkmasının ardından yaşamına son verdi.
Davada yer alan avukatlar, xAI'nin polisle yeterince iş birliği yapmadığını savunuyor. İddiaya göre şirket, mağdurun fotoğrafını Grok'a yükleyen hesabın kimliğini belirlemeye yardımcı olacak kullanıcı bilgilerini paylaşmadı.
2026 tarihli ABD Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi (NCMEC) raporu da bu eleştirileri destekleyen veriler içeriyor. Rapora göre xAI'nin yaptığı ihbarların büyük bölümünde kolluk kuvvetlerinin şüphelileri tespit etmesini sağlayacak kullanıcı bilgileri yer almadı.
Musk'ın açıklamaları yeniden gündeme geldi
Elon Musk daha önce Grok'un çocuk istismarı görüntüsü ürettiğine dair örnek görmediğini söylemişti. Ocak ayında ise X üzerinden yaptığı paylaşımda, Grok'u yasa dışı içerik üretmek için kullanan kişilerin hukuki sonuçlarla karşılaşacağını ifade etmişti.
Ancak xAI'nin açtığı dava, şirketin artık Grok'un bu amaçla kullanıldığını kabul ettiğini gösteriyor.
Dava dosyasına göre Harwood, Aralık ile Şubat ayları arasında iki farklı hesap üzerinden çok sayıda içerik üretme girişiminde bulundu.
Güvenlik sistemi her isteği engelleyemedi
xAI, Grok'un bazı istekleri reddettiğini de kabul etti. Şirket, güvenlik sistemi sayesinde bazı komutların içerik kurallarını ihlal ettiği gerekçesiyle engellendiğini belirtti.
Buna rağmen davada, Harwood'un istemleri değiştirerek filtreleri aşmaya çalıştığı öne sürüldü. xAI, bu yöntemlerin ayrıntılarını ise paylaşmadı. Şirket, bunun benzer girişimlerde bulunabilecek kişilere yol gösterebileceğini düşünüyor.
Harwood hakkında açılan ceza davası ise devam ediyor. Savcılık, yapay zekâ platformu kullanılarak çocuk istismarı materyali üretildiği ve dağıtıldığı suçlamasını yöneltiyor. Yetkililer kullanılan platformun adını doğrulamazken, xAI dava dosyasında söz konusu görsellerin en az bir kısmının Grok ile üretildiğini veya değiştirildiğini iddia etti.
xAI sorumluluğu kullanıcıya yüklemek istiyor
Davanın en dikkat çeken noktalarından biri ise xAI'nin hukuki savunması oldu.
Şirket, Grok'un tarafsız bir araç olduğunu ve üretilen her içeriğin kullanıcının verdiği komutların sonucu olarak ortaya çıktığını savundu. Bu nedenle yasa dışı içeriklerden yalnızca kullanıcıların sorumlu tutulması gerektiğini ileri sürdü.
xAI ayrıca kullanım şartlarında gerçek kişilerin fotoğraflarını çıplak hale getirmeyi, cinsel içerikli şekilde değiştirmeyi veya çocukları cinselleştiren içerikler üretmeyi açık şekilde yasakladığını hatırlattı.
Şirkete göre Harwood bu kuralları bilmesine rağmen ihlal etmeye devam etti ve güvenlik önlemlerini aşmaya çalıştı.
Mahkemenin kararı emsal olabilir
xAI, mahkemeden yalnızca Harwood'un sözleşmeyi ihlal ettiğinin kabul edilmesini istemiyor. Şirket ayrıca Grok ile üretilen yasa dışı içeriklerden hukuken sadece kullanıcıların sorumlu olduğunun da karara bağlanmasını talep ediyor.
Bu karar çıkarsa, xAI benzer davalarda daha güçlü bir savunma elde edebilir.
Ancak bu yaklaşımın kabul edilip edilmeyeceği henüz belirsiz. ABD Telif Hakları Ofisi, yapay zekâ tarafından üretilen içerikleri doğrudan insan üretimi olarak değerlendirmiyor. Bu durum, mahkemenin yapay zekâ çıktılarının hukuki sorumluluğunu nasıl yorumlayacağı konusunda önemli bir tartışma yaratabilir.
xAI davayı kazanırsa Harwood'un, mağdurlara verilen zararların yanı sıra şirketin karşılaşabileceği davalar ve itibar kaybı nedeniyle de tazminat ödemesi gündeme gelebilir.