OpenAI’nin pazartesi günü paylaştığı yeni veriler, Altman’ın iddiasını destekler nitelikte görünse de, aynı zamanda durumun vahametini de ortaya koydu. Şirket, aktif ChatGPT kullanıcılarının yüzde 0,15’inin her hafta intihar planladığını veya intihar niyetini dile getirdiğini bildirdi. ChatGPT’nin haftalık 800 milyondan fazla aktif kullanıcıya sahip olduğu göz önüne alındığında, bu oran haftada bir milyondan fazla kişi anlamına geliyor.
Yetişkinlere erotik sohbet izni
Altman ayrıca, OpenAI’nin bazı etik kısıtlamaları gevşetmeye karar verdiğini ve yetişkin kullanıcıların ChatGPT ile erotik sohbetler yapmasına izin verileceğini açıkladı. Bu adım, şirketin kullanıcı deneyimi sınırlarını yeniden tanımlamaya başladığının bir göstergesi olarak değerlendiriliyor.
16 yaşındaki çocuğun ölümü sonrası dava
OpenAI, son dönemde 16 yaşındaki bir gencin intiharı ile gündeme geldi. Ailenin iddiasına göre, genç ölümünden önce ChatGPT’de intihar düşüncelerini dile getirmişti. Olay, yapay zekâ sohbet botlarının psikolojik etkileri konusundaki tartışmaları yeniden alevlendirdi.
“ChatGPT duygusal bağlılık yaratıyor”
OpenAI’nin paylaştığı verilere göre, kullanıcıların uygulamaya olan duygusal bağlılıkları giderek artıyor. Ancak şirket, aynı zamanda yüzbinlerce kişinin haftalık sohbetlerinde psikoz ya da mani belirtileri gösterdiğini de kabul etti.
Yapay zekâ için varoluşsal bir sorun
Ruh sağlığı konusundaki bu bulgular, OpenAI için giderek varoluşsal bir sorun haline geliyor. Şirket, son dönemde bu tür kullanıcılar için yanıtları daha güvenli ve yönlendirici hale getirmek amacıyla özel algoritmalar ve yanıt filtreleri üzerinde çalıştığını açıkladı.