Yok artık dedirten iddia: Polisin suç raporunu ChatGPT mi yazdı?
Chicago'daki göçmen baskınlarını inceleyen ABD Bölge Yargıcı Sara Ellis'in 223 sayfalık kararındaki bir dipnot, bir memurun güç kullanımı raporunun anlatımını oluşturması için ChatGPT'den yardım aldığını ortaya çıkardı. Yargıç, bu durumun raporların güvenilirliğini tamamen zedelediğini belirtti.
Geçen hafta ABD'de bir yargıç, Chicago'da belgesiz göçmenleri hedef alan baskınların uygulanma şekli nedeniyle İç Güvenlik Bakanlığı'nı (DHS) sertçe eleştiren 223 sayfalık bir görüş bildirdi. Ve bu görüşün bir dipnotunda yer alan iki cümle, bir kolluk kuvveti üyesinin bir kişiye karşı güç kullanımını belgelemek üzere hazırlanan raporu yazmak için ChatGPT kullandığını ortaya çıkardı.
ABD Bölge Yargıcı Sara Ellis tarafından yazılan kararda, Göçmenlik ve Gümrük Muhafaza (ICE) yetkililerinin ve diğer kurumların “Operation Midway Blitz” adı verilen operasyon sırasındaki davranışları eleştirildi. Bu operasyonda, protestocular ve vatandaşlarla yaşanan tekrarlanan şiddet olayları da dahil olmak üzere 3.300’den fazla kişi tutuklanmış ve 600’den fazlası ICE tarafından gözaltına alınmıştı. Bu tür olayların, kurumlar tarafından güç kullanımı raporlarında belgelenmesi gerekiyordu. Ancak Yargıç Ellis, memurların vücut kameralarından gelen görüntüler ile yazılı kayıtlarda yer alan bilgiler arasında sık sık tutarsızlıklar olduğunu fark etti ve raporların güvenilmez olduğunu ilan etti.
Dahası, Yargıç Ellis en az bir raporun bir memur tarafından bile yazılmadığını söyledi. Dipnotunda belirttiğine göre, vücut kamerası görüntüleri, bir görevlinin “bir karşılaşmaya dair kısa bir cümle ve birkaç görüntüye dayanarak bir rapor için anlatım oluşturmasını ChatGPT’den istediğini” gösterdi. Memur, yapay zekaya son derece sınırlı bilgi vermesine rağmen, ChatGPT'den çıkan çıktıyı rapor olarak sundu; bu da yapay zekanın geri kalan boşlukları varsayımlarla doldurmuş olma ihtimalini yükseltti.
Yargıç Ellis’in dipnotta yazdığına göre, “Ajanların güç kullanımı raporlarını oluşturmak için ChatGPT'yi kullanmaları, raporların güvenilirliğini daha da zedeliyor ve vücut kamerası görüntüleri ışığında bu raporlardaki yanlışlıkları açıklayabilir.”
Yapay Zeka kullanımının en kötü senaryosu
Associated Press’in bildirdiğine göre, İç Güvenlik Bakanlığı'nın (DHS) rapor oluşturmak için üretken yapay zeka araçlarının kullanımına ilişkin net bir politikasının olup olmadığı bilinmiyor. Üretken yapay zekanın, eğitim verilerinde bilgi bulamadığında boşlukları tamamen uydurma bilgilerle dolduracağı göz önüne alındığında, bu uygulamanın en iyi uygulama olmadığı kesin.
DHS’nin kurum içinde yapay zeka kullanımıyla ilgili özel bir sayfası var ve hatta ChatGPT de dahil olmak üzere ticari olarak mevcut sohbet robotlarıyla test çalışmalarından sonra, memurların “günlük aktivitelerini” tamamlamalarına yardımcı olmak için kendi sohbet robotunu da konuşlandırmış durumda. Ancak dipnot, memurun kurumun dahili aracını kullandığını göstermiyor. Aksine, raporu dolduran kişinin doğrudan ChatGPT'ye giderek bilgileri yüklediği anlaşılıyor.
Bir uzmanın Associated Press'e bu durumu, kolluk kuvvetleri tarafından yapay zeka kullanımının “en kötü senaryosu” olarak nitelendirmesi şaşırtıcı olmasa gerek...