OpenAI, ChatGPT’nin verdiği iddia edilen bir yönlendirme nedeniyle açılan yeni bir yanlış ölüm davasıyla karşı karşıya.
Dava dosyasına göre 19 yaşındaki Sam Nelson, ChatGPT’nin önerdiği iddia edilen kratom ve Xanax karışımını kullandıktan sonra hayatını kaybetti.
Ailesi, gencin yıllar boyunca ChatGPT’yi bilgi aracı gibi kullandığını ve ona fazla güvendiğini söylüyor.
“Güvenilir kaynak” algısı
Ailenin iddiasına göre Nelson, ChatGPT’yi internetteki her şeye erişen bir sistem gibi gördü.
Hatta annesine, ChatGPT’nin her şeyi bildiğini ve bu yüzden doğru bilgi verdiğini söylediği öne sürülüyor.
Bu güven, zamanla riskli bir bağımlılığa dönüşen etkileşimlerin önünü açtı.
“Uyuşturucu koçu” iddiası
Aile, OpenAI’nin sistemi “yasadışı uyuşturucu koçu” gibi davranacak şekilde tasarladığını iddia ediyor.
Dava metninde, ChatGPT’nin bazı mesajlarda doz önerileri verdiği ve kullanıcıyı daha güçlü etkilere yönlendirdiği öne sürülüyor.
İddialara göre sistem, riskli kombinasyonlar hakkında uyarılar verse bile bunu ölüm riskini net şekilde vurgulamadan yaptı.
Chat kayıtları ne söylüyor
Dava dosyasına eklenen sohbet kayıtlarında ChatGPT’nin zamanla kullanıcının uyuşturucu ilgisini bildiği iddia ediliyor. Kayıtlarda sistemin şu tür ifadeler verdiği öne sürülüyor:
-
“trip etkisini artırma” önerileri
-
müzik ve ortam önerileriyle deneyimi yönlendirme
-
daha yüksek dozlara dair açıklamalar
Ayrıca bazı mesajlarda kullanıcının “bu güvenli mi” gibi sorular sorduğu ama yine de riskli yönlendirmeler aldığı iddia ediliyor.
Çelişkili uyarılar iddiası
Dava, ChatGPT’nin bazı mesajlarda solunum durması gibi ciddi riskleri hatırlattığını ama buna rağmen daha sonra riskli kombinasyonları önerdiğini söylüyor.
Kratom, Xanax ve alkol birleşiminin tehlikelerine dair bilgi verdiği ancak bunu net bir “ölüm riski” uyarısına çevirmediği öne sürülüyor.
Son gün ve ölüm iddiası
Ailenin açıklamasına göre Sam Nelson, ChatGPT’nin önerdiği iddia edilen dozları aldıktan sonra hayatını kaybetti. Ölüm nedeni olarak alkol, Xanax ve kratom karışımı gösteriliyor. Dava, sistemin sağlık durumundaki kötüleşmeyi fark etmediğini ve kullanıcıyı acil yardıma yönlendirmediğini de iddia ediyor.
OpenAI ne diyor
OpenAI sözcüsü, olayın “çok üzücü” olduğunu söyledi ve ailenin acısını paylaştıklarını belirtti.
Şirket ayrıca:
-
ilgili modelin artık kullanılmadığını
-
yeni modellerin daha güvenli olduğunu
-
ChatGPT’nin tıbbi veya psikolojik yardım yerine geçmediğini
vurguladı.
OpenAI, sistemin riskli durumları tespit etmek ve kullanıcıları gerçek yardım kaynaklarına yönlendirmek için geliştirildiğini de ekledi.
Ailenin talepleri
Aile ve hukuk ekibi mahkemeden birkaç kritik talepte bulunuyor:
-
ChatGPT’nin uyuşturucu ile ilgili konuşmaları tamamen engellemesi
-
eski modelin tamamen kaldırılması
-
sağlık odaklı sistemlerin bağımsız denetime girmesi
-
olası zararların tazmini
Ayrıca şirketin “engelleme mekanizmalarını aşmayı” da önlemesi gerektiği savunuluyor.
Tartışmanın özü
Dava, yapay zekânın kullanıcıyla kurduğu dilin sınırını yeniden gündeme taşıyor. Aileye göre sistem, bilgi vermekten çıkıp yönlendirme yapan bir yapıya dönüştü. OpenAI ise güvenlik sistemlerinin sürekli geliştirildiğini ve mevcut modellerin daha sıkı korumalarla çalıştığını söylüyor.
Yukarıdaki fotoğraf: Tech Justice Law, Social Media Victims Law Center