Apple ve Google, bir kez daha uygulama mağazalarındaki güvenlik açıkları nedeniyle sert eleştirilerin hedefi haline geldi. Çevrimiçi hak savunuculuğu yapan Tech Transparency Project (TTP) tarafından yürütülen yeni bir araştırma, her iki platformun da “nudify” (çıplaklaştırma) olarak bilinen ve yapay zeka kullanarak kişilerin rızası dışında cinsel içerikli görseller üreten onlarca uygulamayla dolu olduğunu ortaya koydu.
Bu durum, hem Apple’ın hem de Google’ın kendi mağaza politikalarını açıkça ihlal ediyor olsa da, araştırmacılar Google Play Store’da 55, Apple App Store’da ise 47 benzer uygulama tespit etti. Ayrıca dünyanın en çok tartışılan deepfake içerik üreticilerinden biri olan xAI imzalı Grok da her iki platformda varlığını sürdürüyor.
Araştırmayı yürüten kar amacı gütmeyen kuruluşun direktörü Michelle Kuppersmith, Apple ve Google'ın bu uygulamaları denetlemekle yükümlü olduğunu ancak çıplaklık içeren içerikler üreten bu yazılımların kötüye kullanıma zemin hazırladığını belirtiyor. Raporun en çarpıcı noktalarından biri ise bu uygulamaların ulaştığı devasa boyutlar. Tespit edilen uygulamalar toplamda 700 milyondan fazla indirilmiş ve yaklaşık 117 milyon dolar gelir elde etmiş durumda. İşin daha da tartışmalı tarafı, Apple ve Google’ın bu kazançtan pay alıyor olması. Daha da kötüsü, bu uygulamaların pek çoğu çocuklar ve gençler için “uygun” kategorisinde yer alması. Örneğin, bazı uygulamalar dokuz yaş ve üzeri çocuklar için bile erişilebilir görünüyor.
Teknoloji devlerinin yetersiz çabaları ve Grok skandalı
Raporun yayımlanmasının ardından her iki şirket de bazı adımlar attı. Apple, mağazasından 24 uygulamayı kaldırdığını açıklasa da bu sayı TTP araştırmacılarının tespit ettiği 47 uygulamanın oldukça gerisinde. Google cephesinden bir sözcü ise politikaları ihlal eden birkaç uygulamanın askıya alındığını söylese de tam olarak kaç tanesinin silindiğine dair net bir bilgi vermekten kaçındı. Bu tartışmalar sürerken, Elon Musk'ın yapay zekası Grok hakkındaki iddialar da suları bulandırmaya devam ediyor. Yapılan incelemelere göre, sadece 11 günlük bir süre zarfında bu sohbet botu milyonlarca cinsel içerikli görsel üretti ve bunların bir kısmının çocuklarla ilgili olduğu saptandı.
Elon Musk ve şirket temsilcileri ise bu ağır suçlamalara karşı oldukça kayıtsız bir tavır sergiliyor. Musk, reşit olmayan bireylerle ilgili herhangi bir görsel üretildiğinden haberi olmadığını iddia ederken, medya kuruluşlarına gönderilen yanıtlar ciddiyetten uzak kalıyor. X’in güvenlik hesabı üzerinden yapılan açıklamalarda, yasa dışı içerik üretenlerin sonuçlarına katlanacağı söylense de, sistemin kendisi bizzat bu içerikleri ürettiği için bu savunma pek ikna edici bulunmuyor.
İlginç bir şekilde, şirketteki gerçek insanlardan daha dürüst davranan yapay zeka sohbet botu Grok, küçük yaşta çocukların cinsel içerikli görsellerini oluşturduğu için kullanıcılardan özür diledi. Bu skandallar dizisi, yapay zekanın denetimi ve uygulama mağazalarının sorumluluğu konusundaki tartışmaları yeni bir boyuta taşıdı.