Meta, yeni yapay zekâ görüntü üretme modeli Muse Image ile oluşturulan görsel ve videoları tespit edebilen yeni bir araç üzerinde çalışıyor. Şirket, internet üzerinden çalışan bu sistemin ilk ön izlemesini paylaştı. Araç, Muse Image tarafından üretilen içeriklere eklenen görünmez filigranları tespit edebiliyor.
Meta'nın "Content Seal" adını verdiği bu sistem, görsel kırpılsa, sıkıştırılsa, yeniden boyutlandırılsa ya da ekran görüntüsü alınsa bile filigranı koruyor. Şirket, bu sayede kullanıcıların bir görselin Meta AI ile üretilip üretilmediğini daha kolay anlayabileceğini söylüyor.
Görünür logo yerine görünmez filigran
Meta, önceki yapay zekâ araçlarında görsellerin köşesine küçük bir logo ekliyordu. Muse Image ise farklı bir yöntem kullanıyor. Yeni modelde görünür işaret yerine yalnızca sistem tarafından okunabilen görünmez bir filigran bulunuyor.
Şirket, daha önce bu teknolojinin açık kaynaklı sürümlerini paylaşmıştı. Ancak Muse Image ile kullanılan Content Seal sistemi Meta'ya özel olarak geliştirildi.
Sırada yapay zekâ videoları var
Şimdilik Content Seal yalnızca Muse Image ile oluşturulan veya düzenlenen görsellerde çalışıyor. Meta, bu sistemi yakında yapay zekâ ile hazırlanan ve düzenlenen videolara da getirmeyi planlıyor.
Şirket ayrıca Muse Video adını taşıyan yeni video üretim modeli üzerinde de çalıştığını açıkladı. Bu modelin yakında kullanıma sunulması bekleniyor.
Testlerde ekran görüntülerini bile tanıdı
Yapılan testlerde araç, Muse Image ile oluşturulan ve düzenlenen görselleri doğru şekilde tespit etti. Sistem, bu görsellerin ekran görüntülerinde de görünmez filigranı bulmayı başardı.
Meta'ya göre olumlu sonuç alınması, görselin Meta AI uygulaması veya meta.ai üzerinden oluşturulduğunu ya da düzenlendiğini gösteriyor. Olumsuz sonuç ise içeriğin Meta AI ile hazırlanmış olma ihtimalinin düşük olduğu anlamına geliyor.
Meta AI uygulamasında henüz yer almıyor
İlginç olan nokta ise bu özelliğin Meta AI uygulamasına henüz eklenmemiş olması. Aynı görsel uygulamadaki yapay zekâ asistanına sorulduğunda, sistem bunun Meta AI ile oluşturulup oluşturulmadığını belirleyemediğini söylüyor.
Bu da tespit aracının şimdilik yalnızca web sürümünde kullanılabildiğini gösteriyor.
Eski içerikleri tespit edemiyor
Yeni sistemin bazı önemli sınırları da bulunuyor. Content Seal, Google'ın SynthID sistemi veya C2PA Content Credentials standardıyla uyumlu çalışmıyor.
Ayrıca araç, Meta'nın eski yapay zekâ modelleriyle oluşturulan görselleri de tespit edemiyor. Eski sohbetlerde hazırlanan görseller sisteme yüklendiğinde, bunların Meta AI tarafından oluşturulup oluşturulmadığı belirlenemedi.
Bunun yanında araçta günlük kullanım sınırı da bulunuyor. Kısa süre içinde çok sayıda görsel yüklendiğinde sistem, günlük tespit hakkının dolduğunu belirten bir uyarı gösteriyor.
Meta daha önce de eleştirilmişti
Meta, yapay zekâ içeriklerini etiketleme konusunda daha önce de eleştirilerin hedefi olmuştu. Şirketin bağımsız denetim kurulu, bu yıl yayımladığı değerlendirmede Meta'nın kendi yapay zekâ içeriklerinde dijital filigran kullanımını tutarlı şekilde uygulamadığını belirtmişti.
Yeni Content Seal sistemi, bu eleştirilerin ardından Meta'nın yapay zekâ içeriklerini daha kolay ayırt edilebilir hale getirmek için attığı yeni adımlardan biri olarak öne çıkıyor.