Yapay zeka ile üretilen sahte Pentagon patlaması görüntüsü, borsayı bile karıştırdı

İnternetin geleceğine ışık tutan öngörülebilir ancak karanlık bir örnekte, Pentagon’un yandığını gösteren sahte bir fotoğraf, ABD borsasın kısa bir düşüşe neden oldu ve yapay zeka kaynaklı yanlış bilgi krizini kontrol altına almanın ne kadar önemli olduğunu bir kez daha gösterdi.

“Bloomberg Feed” adlı doğrulanmış (yani mavi tik için 8 dolar ödeyen) bir hesap tarafından paylaşılan resim, sözde bir patlamanın ardından Pentagon’dan yükselen dumanları gösteriyordu ve olası bir saldırı konusunda yaygın spekülasyonlara neden oldu. Başlıkta, “Washington D.C.’deki Pentagon Kompleksi yakınında Büyük Patlama - İlk Rapor” yazıyordu ve açıkça gerçek bir Bloomberg makalesini taklit etmeye çalışıyordu. Ancak, tahmin edebileceğiniz gibi, hesap tamamen sahteydi ve bu olay, Twitter’ın ücretli doğrulama sürecinde devam eden sorunu bir kez daha gözler önüne seriyor.

Kısa süre sonra yüksek takipçi sayısına sahip ünlü Twitter kullanıcıları tarafından paylaşılan tweet, görüntünün sosyal medyada hızla yayılmasına ve paniğe neden oldu. Hatta 3 milyon takipçili bir Rus devlet medya hesabı olan RT tarafından yayıldı ve piyasaların dikkatini çekti.

Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p

— Andy Campbell (@AndyBCampbell) May 22, 2023

Insider’ın bildirdiğine göre, 650.000 takipçili Twitter kullanıcısı DeItaone, tweet’i yerel saatle sabah 10:06’da paylaştı ve borsalar sadece dört dakika sonra sabah 10:10’da yüzde 0,26 düştü. Bu sayı çok büyük olmasa da, bu kadar kısa bir zaman diliminde gerçekleşmesi piyasaları etkili bir şekilde korkutmuş olabileceğine işaret ediyor.

Daha sonra piyasalar toparlandı ve hem RT’ninkiler hem de DeItaone’ninkiler dahil olmak üzere içeriği paylaşan tweetlerin çoğu silindi. Ancak bu olay, gelecekte daha da endişe verici olabilecek bir durumu incelemek için etkili bir fırsat sunuyor.

Görüntü, yapay zeka tarafından oluşturulmuş bir görüntünün tüm belirleyici işaretlerine sahipti, binanın sütunları yanlış yerlerdeydi, çit tuhaf bir şekilde boşluğa kayboluyor ve pencereler aynı hizada yer almıyordu. Bu yüzden birisinin üretken bir yapay zekaya bir bilgi istemi bağlayıp bunu sahte bir hikaye olarak paylaşmış olması muhtemel görülüyor. Bu olay, ChatGPT, Midjourney ve daha fazlasının kapsamlı yeteneklerini göstermesinden bu yana uzmanların endişelendikleri şeylerden sadece biri.

Olay, sedece yapay zekanın endişe verici yeteneklerine de işaret etmiyor. Aynı zamanda, Twitter doğrulama sisteminin sadece 8 dolarlık basit bir ödemeyle elde edilen bir abonelik hizmeti haline gelmesinin doğurduğu sonuçları da gösteriyor.