Google, sağlıkla ilgili arama sonuçlarında sunduğu bazı yapay zeka tarafından oluşturulan özetleri sessizce kaldırdı. Bu karar, sektörde yapay zekanın sağlık alanına hızla entegre edilmeye çalışıldığı bir dönemde geldi. Geri adımın arkasında ise, The Guardian’ın söz konusu özetlerde yanıltıcı bilgiler bulunduğunu ortaya koyan haberi yer alıyor.
Karaciğer testleriyle ilgili aramalar etkilendi
The Guardian’ın pazar günü yayımladığı habere göre Google, “karaciğer kan testleri için normal değer aralığı nedir” ve “karaciğer fonksiyon testleri normal aralıkları” gibi sorgular için sunulan yapay zeka özetlerini kaldırdı. Salı sabahı itibarıyla bu aramalarda sayfanın üst kısmında artık bir “AI Overview” yer almıyor. Bunun yerine, klasik arama sonuçlarından alınan kısa metinler kullanıcıya gösteriliyor.
Yanıltıcı bilgiler risk oluşturdu
Gazeteye göre, bu ve benzeri sağlık aramalarında sunulan yapay zeka özetleri hatalı bilgiler içerdi ve kullanıcılar için risk oluşturabilecek bir tablo ortaya çıktı. Örneğin, karaciğer testlerine dair özetlerde çok sayıda rakam yer aldığı, ancak bu değerlerin hangi koşullarda geçerli olduğuna dair yeterli bağlam sunulmadığı belirtildi. Ayrıca yaş, cinsiyet, etnik köken veya ülkeye göre farklılıklar da hesaba katılmadı.
Bazı uzmanlar, bu tür sonuçların tehlikeli olabileceğine dikkat çekti. Karaciğer hastalığı olan bir kişinin, yapay zeka tarafından sunulan “normal” tanımlara güvenerek gerekli takip veya tedaviyi erteleyebileceği ifade edildi.
Google: Çoğu özet doğru bilgi içeriyor
Google’dan bir sözcü, Gizmodo’ya gönderilen e-posta açıklamasında, özellikle sağlık gibi hassas konularda yapay zeka özetlerinin kalitesine büyük yatırım yaptıklarını belirtti. Açıklamada, sunulan özetlerin büyük çoğunluğunun doğru bilgiler içerdiği ve güvenilir kaynaklarla desteklendiği vurgulandı.
Şirket, paylaşılan örneklerin kurum içindeki klinisyen ekipler tarafından incelendiğini ve birçok durumda bilgilerin hatalı olmadığının görüldüğünü ifade etti. Ancak bağlamın eksik kaldığı durumlarda genel iyileştirmeler yapıldığı ve gerekli görülen hallerde şirket politikaları doğrultusunda aksiyon alındığı da belirtildi.
Sağlık alanında yapay zekaya ilgi artıyor
Bu gelişme, giderek daha fazla insanın sağlıkla ilgili sorular için yapay zekaya yöneldiği bir dönemde yaşandı. Aynı zamanda teknoloji şirketleri de bu ilgiyi yakından takip ediyor.
ChatGPT’nin geliştiricisi OpenAI, geçen hafta yaptığı açıklamada, 800 milyon civarındaki düzenli kullanıcısının yaklaşık dörtte birinin her hafta sağlıkla ilgili bir sorgu gönderdiğini duyurdu. Günlük sağlık odaklı kullanımın ise 40 milyonun üzerinde olduğu belirtildi.
OpenAI ve Anthropic’ten sağlık odaklı hamleler
OpenAI, kısa süre önce kullanıcıların tıbbi kayıtları, sağlık uygulamaları ve giyilebilir cihazlarla bağlantı kurabilen ChatGPT Health’i kullanıma sundu. Bunun ardından şirket, laboratuvar sonuçları, doktor görüşme kayıtları ve ilaç bilgilerini takip eden sağlık girişimi Torch’u satın aldığını açıkladı.
Rakip yapay zeka şirketi Anthropic de geri kalmadı. Şirket, pazartesi günü yaptığı duyuruda, sağlık hizmeti sunucuları, sigorta şirketleri ve hastaların Claude adlı sohbet botunu tıbbi amaçlarla kullanabilmesini sağlayan yeni araçlar tanıttı.
Anthropic’e göre bu araçlar, hastaneler ve sigorta şirketleri için ön onay talepleri ve hasta iletişimi gibi süreçleri kolaylaştırabiliyor. Hastalar ise laboratuvar sonuçları ve sağlık kayıtlarını Claude’a erişime açarak, bu bilgilerin sade ve anlaşılır özetlerini alabiliyor.
Küçük hataların büyük sonuçları olabilir
Yapay zekanın sağlık alanındaki kullanımı hızla gelişirken, küçük bir hata ya da eksik bağlam bile hastalar için ciddi sonuçlar doğurabiliyor. Teknoloji şirketlerinin bu sorumluluğa ne kadar hazır olduğu ise zamanla netleşecek.