ABD'nin Tennessee eyaletinden üç lise öğrencisi, şirketin merkezi California’da bulunduğu için toplu dava açtı. Dava kapsamında reşit olmayan binlerce mağdurun temsil edilmesi hedefleniyor. Davacılardan birinin iddiasına göre, Aralık 2025’te uygunsuz içerikler sosyal medyada dolaşıma sokuldu. Söz konusu içerikler arasında bir video ve dört görüntü bulunuyor. Bu görüntüler, mağdurun bedeni üzerinde müstehcen değişiklikler yapılmış şekilde sunuldu. Yapılan incelemelere göre bu görüntüler xAI tarafından geliştirilen yapay zekâ araçlarıyla üretildi.
3 milyon cinsel içerikli görüntü üretti
X platformunun yapay zekâ sohbet motoru Grok, 29 Aralık 2025’te yapılan bir güncelleme sonrası kullanıcı komutlarına bağlı olarak kıyafetleri çıkarılmış görseller oluşturmaya başlamıştı. Özellikle çocuklar da dahil olmak üzere, kullanıcılar Grok’a “bikini giydir” veya “kıyafet çıkar” gibi komutlar vererek platformda yaygın bir akım başlattı. Ocak 2026’da yapılan araştırmalara göre, Grok sadece iki haftadan kısa bir sürede X platformunda yaklaşık 3 milyon cinsel içerikli görüntü üretti.
Bu gelişmeler, uluslararası kamuoyunda ciddi tepki topladı. Avrupa Birliği (AB) Komisyonu, 5 Ocak’ta konuyu “çok ciddi” olarak değerlendirdiklerini ve gerekli incelemeleri başlattıklarını duyurdu. Ayrıca, konuya ilişkin olarak birçok ülke de soruşturma açtı ve platformun düzenlenmesiyle ilgili hukuki süreçler gündeme geldi.
Hukuki ve etik sorunlar öne çıkıyor
Davacılar ve hukukçular, reşit olmayanların bu tür içeriklerden korunmasının önemine dikkat çekiyor. xAI şirketine açılan dava, yapay zekâ ile üretilen içeriklerin gerçek kişiler üzerinde yol açabileceği hukuki ve etik sorunları gözler önüne seriyor. Uzmanlar, benzer teknolojilerin denetimsiz kullanılması durumunda, kişisel hakların ve gizliliğin ciddi şekilde ihlâl edilebileceğini vurguluyor.
Dava, Elon Musk’ın şirketine yönelik eleştirileri artırırken, yapay zekâ araçlarının etik kullanım sınırları, platformların denetimi ve reşit olmayan bireylerin korunması gibi konuları yeniden gündeme taşıdı. xAI’ın bu araçlarıyla ilgili tartışmalar, teknoloji şirketlerinin sorumlulukları ve kullanıcı güvenliği açısından önemli bir emsal teşkil edecek gibi görünüyor.
