Teknoloji dünyasında yapay zeka tartışmaları hız kesmeden devam ederken, Google'dan şaşırtıcı bir geri adım geldi. Şirketin uydu görüntülerini yapay zeka ile manipüle etmeye olanak tanıyan yeni özelliği, etik kaygılar ve deepfake endişeleri nedeniyle kullanıma sunulmasından sadece 24 saat sonra kapatıldı.
Google'ın attığı geri adım: Teknoloji devi etik sınırları korumak için frene bastı
Geçtiğimiz Perşembe günü kullanıma açılan ve uydu fotoğrafları üzerinde metin komutlarıyla değişiklik yapılmasına imkan tanıyan yeni yapay zeka aracı, kısa sürede dijital dünyanın en çok tartışılan konusu haline geldi. Kullanıcıların gerçek dünya verilerini istedikleri gibi değiştirebilmesine olanak sağlayan bu teknoloji, beraberinde getirdiği güvenlik riskleri nedeniyle Google tarafından apar topar yayından kaldırıldı.
Manipülasyonun ulaştığı tehlikeli boyutlar
Dijital Digging platformu tarafından gerçekleştirilen testler, söz konusu aracın ne kadar tehlikeli bir boyuta evrilebileceğini gözler önüne serdi. Yapılan denemelerde, kullanıcıların Meksika sınırına hayali sığınmacı grupları yerleştirdiği veya Gazze'deki bir hastane çevresine yapay bomba kraterleri eklediği tespit edildi. Bu tür manipülasyonların, hassas bölgelerdeki insani krizleri çarpıtma potansiyeli taşıması, teknoloji dünyasında büyük bir infial yarattı.
Dezenformasyonla mücadelede yeni bir sınav
Google, başlangıçta Nano Banana 2 modelinin dijital filigranlar içerdiğini ve zararlı içerik üretimini engelleyen filtrelerle donatıldığını savunmuştu. Ancak sistemin kötü niyetli kullanımlara karşı ne kadar savunmasız olduğu kısa sürede anlaşıldı. Şirketin geri çekilme kararı, coğrafi verilerin yapay zeka ile değiştirilmesinin toplum üzerindeki dezenformasyon etkisini kabul ettiği şeklinde yorumlanıyor. Uzmanlar, gerçeklik algısını sarsabilecek bu tür araçların, etik denetim mekanizmaları tam olarak kurulmadan piyasaya sürülmesinin ciddi bir güvenlik açığı oluşturduğu konusunda hemfikir.
