Anthropic, Claude modellerinin oluşturduğu metin ve dosyalara filigran eklemeye hazırlanıyor. Şirket, bu sistemle yapay zeka tarafından üretilen içeriklerin kaynağını daha kolay belirlemeyi amaçlıyor. Yeni uygulama aynı zamanda Avrupa Birliği'nin yapay zeka içeriklerinde şeffaflık kurallarına uyum sağlamasına yardımcı olacak.
Avrupa Birliği'nin yapay zeka tarafından üretilen içeriklere yönelik şeffaflık kuralları, şirketlerden kullanıcıları yapay zeka kullanımı konusunda bilgilendirmelerini istiyor. Kurallar ayrıca yapay zeka içeriklerinin işaretlenmesini ve deepfake gibi içeriklerin kullanıcı tarafından anlaşılabilmesini hedefliyor.
Claude metinlerin içine görünmez izler bırakacak
Geleneksel filigranlardan farklı olarak Claude'un metinlere ekleyeceği işaretleri insanlar doğrudan göremeyecek. Sistem; harfler, kelimeler ve metnin yapısı içine makinelerin algılayabileceği sinyaller yerleştirecek.
Anthropic'e göre bu işaretler, kullanıcı metni Windows Not Defteri veya macOS TextEdit gibi uygulamalara kopyalayıp yapıştırsa bile kalabilecek. Bazı düzenlemeler de filigranı tamamen ortadan kaldırmayabilir.
Şirket, 2 Ağustos ve sonrasında kullanıma sunduğu Claude modellerinde filigran sistemini kullanacağını açıkladı. Uygulama yalnızca Avrupa Birliği ülkeleriyle sınırlı kalmayacak. Claude'un desteklendiği tüm bölgelerde geçerli olacak.
Sistem; Claude, Claude API, Claude Code, Claude Cowork ve Claude Tag üzerinden oluşturulan içerikleri kapsayacak. Anthropic, filigranların nasıl tespit edileceğine ilişkin ayrıntıları ise daha sonra paylaşacak.
Görsellerde farklı bir yöntem kullanılacak
Claude yalnızca metinleri değil, oluşturduğu SVG, PNG ve JPG gibi dosyaları da işaretleyecek. Ancak görsellerde metinlerden farklı bir yöntem devreye girecek.
Claude'un oluşturduğu görseller, kaynağı ve dosya üzerinde değişiklik yapılıp yapılmadığı gibi bilgileri içeren imzalı kaynak verileri taşıyacak. Kriptografik imza, bir kişi bu bilgileri değiştirmeye veya gizlemeye çalıştığında bozulacak. Böylece sistem dosyada oynama yapıldığını anlayabilecek.
Filigran, içeriğin tamamen yapay zekaya ait olduğunu kanıtlamıyor
Anthropic sistemin önemli bir sınırına da dikkat çekiyor. Bir metinde Claude filigranının bulunması, içeriğin tamamını yapay zekanın hazırladığı anlamına gelmeyecek.
Örneğin bir kişi kendi yazdığı metni Claude'a verip yalnızca yeniden düzenlemesini isteyebilir. Claude'un oluşturduğu yeni metin filigran taşıyabilir ancak fikirler ve bilgiler insana ait olabilir. Benzer durum çeviri, özetleme ve metin düzeltme işlemlerinde de ortaya çıkabilir.
Tersi de mümkün. Bir içerikte filigran bulunmaması, Claude'un o içerikte hiç kullanılmadığını kesin olarak göstermeyecek.
Anthropic'e göre yapay zekanın katkısı çok küçük kaldığında veya kullanıcı metni yoğun biçimde düzenlediğinde filigran kaybolabilir. Metnin yeniden yazılması, çevrilmesi veya başka içeriklerle birleştirilmesi de işaretlerin tespitini zorlaştırabilir.
Görsellerde de benzer bir sorun bulunuyor. Kullanıcı Claude'un oluşturduğu bir görselin ekran görüntüsünü alıp yeni bir dosya olarak kaydederse orijinal dosyadaki kaynak bilgileri yeni görsele taşınmayabilir.
Yapay zeka tespiti hâlâ kesin sonuç vermiyor
Yapay zeka içeriklerini işaretleme ve tespit etme sistemleri son dönemde daha fazla platformda görülüyor. Ancak mevcut yöntemler her zaman doğru sonuç vermiyor. Özellikle yapay zeka tespit araçlarının insan tarafından yazılan bazı metinleri yanlışlıkla yapay zeka üretimi olarak değerlendirebildiği biliniyor.
Bu nedenle Claude'un yeni filigran sistemi de tek başına kesin bir kanıt sunmayacak. Sistem daha çok içeriğin kaynağı hakkında ek bir sinyal sağlayacak.