Bing, Google ve DuckDuckGo arama motorları, rızaya dayalı olmayan ve yapay zeka ile oluşturulan deepfake pornografisini bazı belirli arama sonuçlarının en üstüne koyduğu için yoğun bir eleştiri yağmuruna tutuluyor. Bu eleştiriler, NBC News’in yapay zeka odaklı pornografinin erişilebilirliğiyle ilgili bazı endişeleri vurgulayan haberinin yayınlanmasının ardından geliyor.
Müstehcen deepfake videolar, orijinal pornografik materyal kullanılarak ve oyuncuların (çoğunlukla aktrisin) yüzünün belirli bir gerçek kişiyle (örneğin bir ünlüye) değiştirilmesiyle oluşturuluyor. Bu değiştirme, yapay zeka tarafından otomatik olarak yapılıyor ve sahte görüntüleri oluşturan kullanıcının yalnızca yapay zekayı kurbanın fotoğraflarıyla beslemesi yeterli oluyor.
NBC News’in 36 kadın ünlüden oluşan bir örnek üzerinde, oyuncu adı ve “deepfake” kelimesinin birleşimi kullanılarak gerçekleştirdiği testlere göre, Bing ve Google neredeyse tüm vakalarda deepfake video ve görsellerini arama sonuçlarının en üstünde gösterdi. Google en üst sıralarda 34 adet bu tür sonuç verirken, Bing 35 sonuç verdi. NBC News, DuckDuckGo’nun da benzer sorunları olduğunu belirtirken sorunun boyutunu belirtmedi.
Ayrıca NBC News, rıza dışı deepfake pornografi sorunuyla ilgili makale ve haberlerin, “sahte çıplaklar” terimi arandığında uygunsuz içeriklerden daha alt sıralarda gösterilmesinden de şikayetçiydi.
Yine de NBC News’in, Bing’in ve Google’ın kullanıcıya müstehcen içerik gösterilmesini engelleyen güvenlik özelliklerini kapattıktan sonra aramaları yaptığını kabul ettiğini belirtmekte fayda var.
Bu ufak detaya rağmen, yapay zeka destekli pornografiye kolay erişilebilirliğin önemli bir sorun olduğunu ve bu tür içerik arayan herkesin muhtemelen yerleşik koruyucu özellikleri kapatacağı rahatlıkla söylenebilir. Rıza dışı müstehcen deepfake içerikler, doğası gereği yasa dışıdır ve bu nedenle Microsoft, Google ve diğerlerinin ele alması gereken içerik türleri arasında yer alıyorlar.
Deepfake'e karşı ne yapılabilir?
Daha gelişmiş teknolojik önlemleri uygulamaya koymanın en kolay yolu veya muhtemelen ilk, geçici adımı, bu tür içerikleri yayınladığı bilinen web sitelerinin arama sonuçlarından çıkartılması veya tamamen yasaklanması olabilir. NBC News’in bildirdiğine göre, testlerindeki en iyi sonuçların yarısından fazlası popüler bir deepfake web sitesine veya bir rakibine bağlantılardan oluştuğu için bu tür bir adım, arama sonuçlarının şu anda zararlı niteliğini önemli ölçüde azaltabilir.
NBC News’in yorum talebine yanıt vermeyen tek şirket Microsoft oldu. DuckDuckGo sözcüsü, web bağlantıları ve görsel sonuçları için ana kaynağının Bing olduğunu söyledi. Ayrıca DuckDuckGo, örneğin belirli bir içeriğin aramadan silinmesini istemek gibi gizlilikle ilgili bir istek gönderme yolları da sunuyor.
Google da deepfake mağdurları için de benzer bir seçenek sunuyor ancak NBC News, uzmanlara ve aktivistlere atıfta bulunarak bunun yeterli olmadığını savunuyor. Ayrıca, incelenmek üzere hassas içeriğe sahip URL’leri göndermeleri istenen mağdurların bu süreçte daha fazla zarar görmesi mümkün olabilir.