Microsoft'un Tay chat robotunun 24 saat içinde ırkçı ve küfürbaz olmayı öğrenmesinden bu yana, yapay zekanın (AI) nasıl kötüye dönüşebildiğini biliyoruz. AI'nin yanlı veriler tarafından nasıl bozulabileceğini incelemek için Massachusetts Teknoloji Enstitüsü (MIT), Yapay Zeka'yı Alfred Hitchcock'un Psycho filmindeki (Türkiye'de filmin adı "Sapık") kötü adamı referans alarak bilinçli şekilde kötü hale getirmeye karar verdi. Yapay zekanın ismi ise Norman.
MIT ekibi, ölüm ve şiddet fotoğraflarına adanmış kötü bir ünü olan reddit alt dizininden görüntüleri ve buradaki yazıları, nesneleri nasıl tanımlayacağı verisine dahil etti.
Ekip, Norman'a daha sonra bazı Rorschach mürekkep resimlerini analiz etmesi için gösterdiğinde, Norman'ın tepkileri - "standart bir resim gösterme sinir ağına" kıyasla inanılmaz derecede endişe vericiydi.
Tabii ki, Reddit'in en karanlık köşesi, mürekkep resimlerini yorumlamak için tek veri seti olunca, Norman'ın, özellikle kontrollü bir görüntü kümesine maruz kalan bir AI ile karşılaştırıldığında, korkunç bir hale gelmesi çok normal.
Ancak MIT'in en uç örneği, herhangi bir yapay zekanın veriyi nereden aldığına bağlı olarak yorumlama kriterlerini nasıl bozabileceğine işaret ediyor.