Yapay zekadan arkadaş olur mu? Hızla yayılan uygulamalardaki siber güvenlik risklerine dikkat çekildi
ESET, Character.AI ve Replika gibi YZ arkadaşlık uygulamalarının artışına dikkat çekerek, kullanıcıları kontrolsüz kişisel bilgi paylaşımının yaratabileceği siber güvenlik ve şantaj risklerine karşı uyardı.
Siber güvenlik çözümleri sunan ESET, kontrolsüz yapılan paylaşımlara dikkat çekerek yapay zeka botuyla iletişim kurmanın risklerine dikkat çekti.
Character.AI, Nomi ve Replika gibi uygulamalar ile OpenAI ve Elon Musk’ın xAI şirketlerinin flörtöz YZ botları gibi büyük platformlar, kullanıcıların kişiselleştirilmiş sohbet tarzında psikolojik ve bazen de romantik ihtiyaçlarını karşılıyor.
Peki, yapay zekadan arkadaş olur mu?
Kontrolsüz Paylaşım ve Gizlilik Endişeleri
Araştırmalar, gençlerin yaklaşık dörtte üçünün YZ arkadaşlarını kullandığını ve üçte birinin ciddi konuşmalar için insanlara göre YZ botlarını tercih ettiğini ortaya koyuyor. Ancak bu durum, kullanıcıların kişisel bilgilerini paylaşması nedeniyle endişe yaratıyor. Ekim ayında yayımlanan bir araştırmaya göre, iki YZ arkadaş uygulamasının hassas kullanıcı bilgilerini ifşa ettiği paylaşıldı. Tehdit aktörleri, özellikle romantik sohbetlerde paylaşılan bilgileri şantaj amaçlı kullanma riski taşıyor.
Aileleri Güvende Tutma Önerileri
ESET, bu uygulamaları kullananlar için bir dizi güvenlik önerisi sunuyor. Öncelikle, YZ'nin yerleşik güvenlik önlemleri olmadığını varsayarak, bir yabancıyla paylaşılmayacak hiçbir kişisel veya finansal bilginin botlarla paylaşılmaması gerekiyor. Uygulama seçimi yapmadan önce kapsamlı araştırma yapılmalı, gizlilik politikaları okunmalı ve kullanıcı verilerini sattığını belirten uygulamalardan kaçınılması öneriliyor. Güvenlik için ise iki faktörlü kimlik doğrulama gibi özellikler etkinleştirilmeli ve model eğitimi için konuşmaların kaydedilmesi gibi seçenekler devre dışı bırakılarak gizlilik ayarları incelenmeli. Ayrıca ebeveynler, çocuklarının kullanımı hakkında diyalog kurmalı, aşırı paylaşım risklerini hatırlatmalı ve yaş doğrulama politikası olmayan uygulamalara izin vermemeli.
Yasal Durum: Romantik botların şu an gri alanda faaliyet gösterdiği, ancak AB'de yakında yürürlüğe girecek olan Dijital Adalet Yasası'nın aşırı derecede bağımlılık yaratan ve kişiselleştirilmiş deneyimleri yasaklayabileceği belirtiliyor.