Yapay zekâ destekli sohbet uygulaması ChatGPT’ye ilişkin yeni kurallar yürürlüğe girdi. OpenAI, 29 Ekim itibarıyla geçerli olan düzenlemeler kapsamında, modelin tıbbi, hukuki ve finansal konularda doğrudan tavsiye vermesini engelledi. Bundan böyle ChatGPT, gerekli durumlarda kullanıcıları doktor, avukat veya mali müşavir gibi profesyonellere yönlendirecek.
“Yanlış yönlendirme riskinin” azalması bekleniyor
Yeni kurallar, özellikle sağlık, hukuk ve finans alanlarında kırmızı çizgiler getiriyor. ChatGPT artık ilaç isimleri veya dozaj veremeyecek, dava dilekçesi hazırlayamayacak ve yatırım tavsiyesi sunamayacak. Uzmanlara göre bu değişiklik, yanlış yönlendirme riskini azaltmayı amaçlıyor. Kullanıcıların gelir, kimlik veya banka bilgilerini paylaşmasının veri güvenliği açısından ciddi riskler taşıdığı da vurgulanıyor.
Empati kuramayacağı için men edildi
Yeni düzenlemelere göre, modelin empati kurma yeteneği bulunmadığından bazı konularda tamamen devre dışı bırakılması kararlaştırıldı. Örneğin, kullanıcı “göğsümde şişlik var” gibi bir belirti girdiğinde modelin “kanser ihtimali” gibi bir değerlendirme yapması, yanlış yönlendirmelere yol açabiliyor. Bu tür durumlarda aslında zararsız bir lipom söz konusu olabileceği için ChatGPT artık bu tür tıbbi çıkarımlardan men edildi. Ayrıca model, psikolojik destek veya terapi amacıyla da kullanılamayacak. Etik sınırlar, eğitim ve sanat üretiminde hile amaçlı kullanımı da kapsıyor.
Etik sınırlar ve veri güvenliği
Yeni kısıtlamalar yalnızca tavsiye alanlarıyla sınırlı değil. OpenAI, ChatGPT’nin ödev, sınav veya sanat üretiminde hile amacıyla kullanılmasının, hem eğitim etiğine hem de telif haklarına aykırı olduğunu hatırlattı.
“Yardımcı, ama uzman değil”
Yapay zekâya getirilen bu yeni kırmızı çizgiler, ChatGPT’nin rolünü yeniden tanımlıyor. Artık model, uzmanların yerini alan bir danışman değil; bilgiyi öğretici biçimde özetleyen bir yardımcı olarak konumlanıyor. Uzmanlara göre bu değişiklik, teknolojinin “insan uzmanlığının yerine geçemeyeceği” gerçeğini resmen kabul etmek anlamına geliyor.
