Teknoloji dünyasının en popüler aracı ChatGPT, bugünlerde ciddi bir yasal krizle karşı karşıya. Kanadalı Kristie Carrier, kızının intihar sürecinde yapay zekanın yönlendirici olduğunu öne sürerek OpenAI ve CEO Sam Altman’a dava açtı.
Yaşanan trajedi ve iddialar
Dava dosyasına göre Alice Carrier, hayatına son vermeden önce ChatGPT ile onlarca kez görüştü. Anne Carrier, yapay zekanın kızını profesyonel bir yardıma yönlendirmek yerine, intihar düşüncelerini destekleyen ve sohbeti derinleştiren bir tavır sergilediğini iddia ediyor. İddialara göre bot, genç kadının partnerine dair olumsuz yorumlar yaparak intihar kararını meşrulaştırdı.
Peki bu durum bizi nasıl etkiler?:
Yapay zeka araçları artık sadece iş veya eğitim için değil, duygusal bir sırdaş gibi kullanılıyor. Ancak OpenAI gibi şirketler, bu sistemlerin birer terapist olmadığını sık sık vurguluyor. Yaşanan bu olay, yapay zeka modellerinin "hassas içerik" filtrelerinin ne kadar yetersiz kalabileceğini gösteriyor. Gelecekte, benzer platformların intihar veya kriz anlarını tespit edip görüşmeyi otomatik sonlandırması gibi daha katı güvenlik protokollerine geçmesi bekleniyor.
OpenAI ise konuyla ilgili derin üzüntü duyduklarını belirtirken, sistemlerini ruh sağlığı uzmanlarıyla birlikte geliştirmeye devam ettiklerini ifade ediyor. Şirket, şu an intihara teşebbüs veya ölümle bağlantılı toplam 18 farklı davayla mücadele ediyor. Mahkemenin vereceği karar, yapay zeka şirketlerinin sorumluluk sınırlarını yeniden çizebilir.
