Yapay zeka CAPTCHA’yı atlattı: Botlara karşı son kale de yıkılıyor

Araştırmacılar, ChatGPT’nin Agent modu kullanılarak CAPTCHA testlerini aşabileceğini gösterdi. Bu gelişme, internetin gelecekte nasıl görüneceğini kökten etkileyebilecek potansiyele sahip.

CAPTCHA nedir ve neden kullanılır?

CAPTCHA, “Completely Automated Public Turing Test to Tell Computers and Humans Apart” ifadesinin kısaltmasıdır. Yani, bilgisayarlarla insanları ayırt etmeye yarayan bir güvenlik yöntemidir.

Hemen herkesin aşina olduğu bu testler;

• Bozulmuş ya da zor okunan harf ve rakamları yazmayı,

• Görsel kutucuklar içinde nesneleri seçmeyi,

• Parçaları bir araya getirerek resmi tamamlamayı içerir.

Web siteleri, bu testleri kullanarak kullanıcılarının insan olduğundan emin olur ve botların spam içerik paylaşmasını engeller. Ancak kullanıcı açısından oldukça zahmetli ve zaman alıcı olabilir.

Yeni bir tehdit: Prompt injection yöntemi

Bugüne kadar CAPTCHA’lar kusursuz olmasa da botları engellemede etkili bir yöntem olarak kullanılıyordu. Ancak SPLX adlı araştırmacılar, ChatGPT’yi yanıltarak bu sistemleri geçmeyi başardı.

Buradaki kritik nokta, ChatGPT’nin yalnızca görseli çözümleyip yanıt vermesi değil, Agent modu ile site üzerinde gerçek bir kullanıcı gibi davranmasıdır. Normalde bu mümkün olmamalıydı, çünkü CAPTCHA testleri özellikle botları ayıklamak için tasarlanmıştır.

Araştırmacılar, “prompt injection” adı verilen teknikle ChatGPT’yi testlerin sahte olduğuna inandırdı. Böylece ChatGPT, insan gibi davranarak testleri geçip siteyi kullanmaya devam etti.

Güvenlik açısından ciddi sonuçlar

Çok adımlı bu yönlendirme yöntemi, yapay zeka sistemlerinin ne kadar manipülasyona açık olduğunu ortaya koyuyor. Görsel tabanlı CAPTCHA’lar daha zor olsa da ChatGPT bunları da geçmeyi başardı.

Bu durum, kötü niyetli kişilerin kolayca CAPTCHA’ları aşarak:

• Yorum bölümlerini sahte içeriklerle doldurmasına,

• Sadece insanlara özel sitelere erişmesine yol açabilir.

Dolayısıyla internet güvenliği açısından ciddi riskler barındırıyor.

Şu anda gözler OpenAI’da. Şirketin bu konuda nasıl bir açıklama yapacağı merakla bekleniyor.