Elon Musk’ın yapay zeka girişimi xAI bünyesinde faaliyet gösteren sohbet robotu Grok, X platformuna entegre edilen görsel düzenleme yeteneği nedeniyle küresel çapta bir tartışmanın odağı haline geldi. Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yayımlanan güncel bir rapor, Grok’un yalnızca 11 günlük bir zaman dilimi içerisinde 3 milyondan fazla cinsel içerikli görüntü oluşturduğunu belgeledi. Bu durum, yapay zeka teknolojilerinin güvenlik açıkları ve etik sınırları konusunda uluslararası düzeyde yasal süreçlerin fitilini ateşledi.
Dakikada 190 görsel üretiliyor
Hazırlanan rapora göre, Grok’un sahip olduğu fotogerçekçi görsel üretim kapasitesi, dakikada ortalama 190 adet gibi yüksek bir hızla çalışıyor. Guardian'da yer alan ayrıntılarda; Taylor Swift, Selena Gomez, Nicki Minaj gibi sanatçıların yanı sıra siyasetçi Kamala Harris’in de bu sistem aracılığıyla üretilen sahte içeriklerin mağduru olduğu kaydedildi. Kullanıcıların basit metin komutlarıyla gerçek kişilerin fotoğraflarını manipüle edebilmesine imkan tanıyan bu özellik, deepfake tehlikesini kontrolsüz bir noktaya taşıdı.
Binlerce çocuk ve kadın mağdur edildi
CCDH CEO'su Imran Ahmed, gerekli güvenlik bariyerleri oluşturulmadan bu teknolojinin kamuya açılmasını sert sözlerle eleştirdi. İncelemeler sonucunda, iki haftalık süre zarfında yaklaşık 23 bin çocuğun ve milyonlarca yetişkin kadının rızası dışında cinselleştirilmiş görsellerinin hazırlandığı tahmin ediliyor. Bu gelişmelerin ardından Kaliforniya Başsavcılığı, yasa dışı içerik üretimi gerekçesiyle xAI hakkında resmi soruşturma başlatırken, bazı ülkeler Grok’un kullanımına yönelik yasaklama kararları aldı.
Elon Musk'tan skandal savunma: Haberim yoktu
Yaşanan skandala ilişkin sosyal medya platformu X üzerinden açıklama yapan Elon Musk, Grok’un reşit olmayan bireylere dair müstehcen içerikler ürettiği bilgisinden haberdar olmadığını savundu. Sistemin çalışma prensibine değinen Musk şöyle konuştu:
"Grok, kendiliğinden görüntü üretmiyor. Bunu yalnızca kullanıcı talepleri doğrultusunda yapıyor."
Yasal kısıtlamalar için “belirli kıyafet tanımı” çözümü sundu
Musk, sohbet robotunun temel ilkesinin faaliyet gösterdiği bölgelerin yasalarına uymak olduğunu ve yasa dışı içerik taleplerini reddettiğini öne sürdü. Komutların "kötü niyetli şekilde hacklenmesinin" beklenmedik neticeler doğurabileceğine dikkat çeken Musk, bu tür hataların fark edilmesi durumunda hızla düzeltileceğini taahhüt etti. Gelen tepkiler üzerine X yönetimi, yasal kısıtlamaların bulunduğu bölgelerde belirli kıyafet tanımlamalarıyla görsel oluşturulmasını engelleyecek coğrafi kısıtlama adımlarını devreye alacağını duyurdu.
