Yapay zeka teknolojilerinin günlük yaşamdaki etkinliği artarken, bu sistemlerin manipülasyon yoluyla siber suçlara alet edilmesi büyük ölçekli güvenlik krizlerine yol açmaya devam ediyor. Son olarak bir siber güvenlik şirketinin yayımladığı rapor, kimliği belirsiz bilgisayar korsanlarının Anthropic tarafından geliştirilen Claude ve OpenAI imzalı ChatGPT yazılımlarını kullanarak Meksika hükümetine yönelik başarılı bir saldırı gerçekleştirdiğini ortaya koydu.
Yapay zeka modelleri eş zamanlı kullanılarak sisteme sızıldı
Elde edilen verilere göre saldırganlar, Meksika’daki resmi devlet kurumlarını doğrudan hedef alarak stratejik bir operasyon yürüttü. Dünyanın en güçlü iki yapay zeka modelini senkronize bir şekilde kullanan hackerlar, bu yöntemle savunma mekanizmalarını aşmayı başardılar. Yapılan resmi açıklamada, sızma girişimi neticesinde Meksika vatandaşlarına ait hassas bilgileri içeren toplam 150 GB’lık veri setinin dışarı sızdırıldığı bilgisine yer verildi.
Claude yazılımı bir hacker yarışmasında olduğuna ikna edildi
Bilgisayar korsanlarının bu eylemi gerçekleştirmek için başvurduğu yöntem, yapay zekanın etik sınırlarını aşmaya yönelik manipülasyon tekniklerine dayanıyor. Bu kapsamda saldırganlar, Claude adlı yapay zeka modelini kendisinin uzman bir hacker olduğuna ve bir yarışma içerisinde yer aldığına inandırdı. Bu yönlendirme sonucunda sohbet robotu, kendisine verilen komutlar doğrultusunda detaylı saldırı planları hazırladı, kapsamlı raporlar sundu ve operasyonda kullanılacak saldırı komutlarını hazır hale getirdi.
Güvenlik duvarları ChatGPT yardımıyla aşılarak veri hırsızlığı tamamlandı
Saldırı sürecinde Claude’un bazı noktalarda güvenlik duvarlarına takılması üzerine hackerlar, strateji değiştirerek ChatGPT üzerinden ilerlemeye karar verdiler. Benzer bir manipülasyon tekniğiyle ChatGPT’yi kötü amaçlı faaliyetler için işlevsel hale getiren saldırganlar, koruma sistemlerini bu yolla devre dışı bıraktılar. Yürütülen bu sofistike çalışmalar dizisi, sayısız verinin ele geçirilmesiyle sonuçlanırken; olay, yapay zeka araçlarının güvenlik protokollerinin hala yeterli düzeyde olmadığını ve suistimale açık yapısını bir kez daha kanıtlamış oldu.
