Sahte videolar oluşturulmasını sağlayan Deepfake teknolojisinin kötüye kullanım yolları açık bir şekilde görülebilse de, her gün yeni ve bazen de garip sayılabilecek örnekler ortaya çıkmaya devam ediyor. Philadelphia Inquirer ve Harrisburg'den Patriot News'in bildirdiği üzere polis, Pennsylvania, Chalfont sakini Raffaela Spone'u, kızının amigo ekibi Victory Vipers'tan rakiplerini kovdurmak için deepfake kullanmak suçuyla tutukladı. Kanun güçlerinin söylediğine göre Spone, AI tarafından değiştirilerek gençlerin içki, sigara içerken veya çıplak bir şekilde görüldükleri fotoğrafları koçlara gönderdi.
Polis bu durumdan ilk olarak Temmuz ayında, kurbanlardan birinin anonim bir numaradan mesajlar alması ile haberdar oldu ve daha sonra benzer hikayeleri olan diğerleri de ortaya çıktı. Polis memurları, bu numaraları bir tele-pazarlama merkezli siteye ve daha sonra da Spone'un evinde kullanılan IP adresine takip ederek mesajları Spone'a bağladılar. Kadının akıllı telefonunda yapılan bir araştırma ile de kendisini bahsi geçen numaralarla ilişkilendiren kanıtlar bulundu.
Spone, bir çocuğu siber taciz etme ve ilgili suçlarla suçlanmakta. Polis, kızının annesinin davranışlarından haberi olduğuna yönelik herhangi bir kanıt bulunmamasından dolayı kıza karşı dava açmış değil.
Facebook, TikTok ve Twitter gibi sosyal ağlar şimdiden deepfake'leri yasaklayarak yayılma ihtimallerini azalmaya çalışıyor. Ancak bu durum, direkt taciz davranışlarını etkilemiyor ve yaşanan bu olay da sahte görsellerin oluşturulmasının kolaylığını ortaya çıkarıyor. İnandırıcı gözüken bir görüntü yaratmak için bir uzman olmanız gerekmiyor. Her ne kadar deepfake'leri belirlemek için pek çok araştırma bulunuyor olsa da, bu belirleme sistemleri anca fotoğraflardan şüphelenirseniz ve ciddi bir hasar yaratmadan yakalayabilirseniz işe yarıyor...