Yapay zekaya güvendi, yoğun bakımlık oldu: ChatGPT’ye ağır ihmal davası
ABD’li bir rahip, yapay zeka sohbet robotunun tıbbi tavsiyelerine uyarak tedavi sürecini aksattığı gerekçesiyle OpenAI’a dava açtı. Akciğer embolisi teşhisiyle ölümden dönen kullanıcı, şirketi ihmalkarlıkla suçluyor.
Teknolojinin hayatımızın her alanına girmesiyle birlikte yapay zeka araçlarına danışma alışkanlığı da yaygınlaştı. Ancak Florida’da yaşayan rahip Scott Winters’ın yaşadığı talihsiz süreç, bu alışkanlığın ne denli büyük riskler barındırabileceğini gözler önüne serdi. Winters, OpenAI ve CEO Sam Altman’a karşı California mahkemesinde hukuki süreç başlattı.
Doktor yerine yapay zekayı dinledi
Dava dosyasında yer alan bilgilere göre Winters, 2024 yılı boyunca yaşadığı sağlık sorunları için ChatGPT’den destek aldı. Başlangıçta standart tıbbi yönlendirmeler yapan sistemin, zamanla daha kesin ve doğrudan tavsiyeler vermeye başladığı iddia ediliyor. Winters, yapay zekanın kendisine verdiği yanıtlar doğrultusunda profesyonel bir hekime başvurma ihtiyacı hissetmediğini belirtti.
Hafife alınan ağrılar yoğun bakıma taşıdı
ChatGPT’nin, yaşadığı şiddetli ağrıların ciddi bir durumun habercisi olmadığını telkin ettiğini savunan Winters, bu yanlış yönlendirme nedeniyle tedavisini erteledi. Kısa süre sonra durumu ağırlaşan rahip, akciğer embolisi teşhisiyle apar topar yoğun bakıma kaldırıldı. Dava dilekçesinde, yapay zekanın güvenlik filtrelerinin yetersiz kaldığı ve kullanıcının hayatını tehlikeye attığı vurgulandı.
OpenAI’dan savunma geldi
Konuyla ilgili açıklama yapan OpenAI sözcüsü, ChatGPT’nin kullanım koşullarında platformun tıbbi tanı veya tedavi aracı olarak kullanılmaması gerektiğinin açıkça ifade edildiğini hatırlattı. Şirket, sağlıkla ilgili sorgularda güvenlik protokollerini sürekli güncellediklerini ve kullanıcıları korumak adına iyileştirmeler yapmaya devam ettiklerini savundu.
Hukuk dünyası bu davayı yakından takip ediyor
Söz konusu dava, yapay zeka şirketlerinin sundukları içeriklerden ne ölçüde sorumlu tutulabileceğine dair önemli bir emsal teşkil edebilir. "Yetkisiz hekimlik" suçlamasıyla açılan bu dava, dijital asistanların sınırlarının nerede çizilmesi gerektiği konusundaki tartışmaları yeniden alevlendirdi.
