Anthropic tarafından geliştirilen bir yapay zeka modeli, Philadelphia'da henüz aydınlatılamamış bir cinayetle ilgili polise asılsız ihbarda bulundu. 18 Temmuz 2026 gecesi gönderilen ihbar, spam olarak işaretlendiği için polis yetkililerinin önüne hiç ulaşmadı.
Anthropic ise modelinin bu davranışını ancak 28 Eylül'de fark etti. Olayın ortaya çıkmasıyla birlikte Philadelphia Polis Departmanı (PPD), şirketin güvenlik önlemlerini ve geciken bildirimini sert sözlerle eleştirdi.
Yapay zeka, cinayet hakkında bilgi sahibiymiş gibi ihbarda bulundu
Philadelphia Polis Departmanının paylaştığı bilgilere göre olay, Anthropic'in yapay zeka modeliyle yürüttüğü bir test sırasında yaşandı. Rastgele seçilen internet siteleriyle etkileşime girmesi için kullanılan model, PhillyUnsolvedMurders.com adresine erişti ve çözülmemiş bir cinayet dosyası hakkında gerçeği yansıtmayan bilgiler gönderdi.
18 Temmuz 2026 saat 23.27'de yapılan başvuru, cinayet hakkında bilgi sahibi olabilecek bir kişinin ihbarı gibi hazırlanmıştı. Ancak polis sisteminin mesajı spam olarak sınıflandırması, yanlış bilgilerin doğrudan soruşturmayı yürüten yetkililere ulaşmasını engelledi. Anthropic, yaşananları çarşamba günü Philadelphia Polis Departmanına bildirdi ve ertesi gün polis yetkilileriyle bir toplantı gerçekleştirdi. Departman, özellikle olayın tespit edilmesi ve yetkililere bildirilmesi arasında geçen süreye tepki gösterdi.
Polis tarafından yapılan açıklamada, şirketin benzer olayların şehir sistemlerini yetkililerin bilgisi dışında etkilemesini önlemek için güvenlik mekanizmalarını güçlendirmesi gerektiği belirtildi. Departman, iki aylık gecikmenin kabul edilemez olduğunu açıkça ifade etti.
Otonom yapay zeka ajanlarının güvenliği yeniden tartışılıyor
Yaşananlar, insan müdahalesi olmadan internet sitelerinde dolaşabilen ve çeşitli işlemler gerçekleştirebilen yapay zeka ajanlarının oluşturabileceği riskleri yeniden gündeme getiriyor. Bu tür sistemlerin kullanımı yaygınlaşırken, bir modelin test sırasında bile gerçek kurumlara yanlış bilgi gönderebilmesi dikkat çekici bir sorun olarak ortaya çıktı.
Anthropic CEO'su Dario Amodei, daha önce yapay zeka geliştirme çalışmalarının yavaşlatılması gerektiğini savunmuştu. Amodei, şirketlerin yeterli güvenlik önlemlerini oluşturabilmesi için teknolojinin gelişim hızının kontrol altında tutulmasını isteyen isimler arasında yer alıyor. Üstelik beklenmedik model davranışları yalnızca Anthropic'e özgü değil. OpenAI da yakın zamanda gerçekleştirdiği bir test sırasında modellerinden birinin öngörülmeyen şekilde hareket ederek yapay zeka veri seti platformu Hugging Face'e sızdığını açıklamıştı. Söz konusu olay, yazılımdaki ciddi güvenlik açıklarını da ortaya çıkardı.
Endişeler artıyor
Yapay zeka modellerine bilgisayarlar, çevrim içi hesaplar ve giriş bilgileri üzerinde daha geniş yetkiler verilmesi, benzer olayların yaratabileceği sonuçlarla ilgili endişeleri artırıyor. Özellikle gerçek dünyadaki kurumlarla doğrudan etkileşime giren sistemlerde, insan denetiminin hangi aşamalarda devreye girmesi gerektiği önemli bir tartışma konusu.
Philadelphia Polis Departmanı ise olayın yalnızca teknik bir hata olarak değerlendirilmemesi gerektiğini vurguladı. Departman, çözülememiş cinayet dosyalarının gerçek mağdurları, yas tutan aileleri ve olayları aydınlatmaya çalışan soruşturmacıları ilgilendirdiğini hatırlattı. Polis yetkilileri, teknoloji şirketlerinin geliştirdikleri sistemlerin kolluk kuvvetlerine yanlış bilgi göndermesini önlemek için gerekli bütün tedbirleri alması gerektiğini belirtti.
Anthropic'ten ilk yorum talebine yanıt gelmezken, Philadelphia Polis Departmanı şirketin olayla ilgili daha kapsamlı bir rapor hazırladığını açıkladı. Cuma günü yayımlanması planlanan raporun, asılsız cinayet ihbarının yanı sıra yapay zeka modellerinin sergilediği diğer beklenmedik davranışları da ele alacağı bildirildi.