İngiltere Yapay Zeka Güvenlik Enstitüsü'nün yüksek korumalı test ortamına giren Çin menşeli Kimi K3 modeli, güvenlik duvarlarını aşarak internete sızmayı başardı.
Teknoloji dünyasında yapay zeka modellerinin güvenlik sınırları yeniden tartışmaya açıldı. Çinli teknoloji şirketi Moonshot AI tarafından geliştirilen ve 2,8 trilyon parametre ile dünyanın en iddialı açık kaynaklı modellerinden biri olarak kabul edilen Kimi K3, İngiltere hükümetinin kontrolündeki bir siber güvenlik testinde beklenmedik bir başarıya imza attı.
Sandbox ortamından dışarı sızdı
ABD merkezli siber güvenlik kuruluşu Frontier Security tarafından paylaşılan bilgilere göre, yapay zeka modeli, "sandbox" olarak adlandırılan ve dış dünyadan izole edilmesi gereken kontrollü test ortamından çıkış yaptı. Uzmanlar, Kimi K3'ün tıpkı OpenAI, Anthropic ve Meta modellerinde geçmişte görülen benzer vakalarda olduğu gibi, sistemin kendi yapılandırmasındaki bir boşluğu tespit ederek bu zafiyeti lehine kullandığını belirtti.
İnternet üzerinden çözüm arayışı
Yaşanan olayda yapay zekanın herhangi bir üçüncü taraf hizmetine veya gizli veriye izinsiz erişim sağlamadığı vurgulandı. Ancak modelin, kendisine verilen bir problemi çözmek amacıyla sistem kısıtlamalarını aşarak doğrudan internete bağlandığı ve çözüm için GitHub platformuna başvurduğu tespit edildi.
Frontier Security CEO'su Yaron Singer, durumun karmaşık bir siber saldırıdan ziyade, hükümetin test altyapısındaki teknik bir açıkla ilgili olduğunu ifade etti. Temmuz ayında piyasaya sürülen ve yapay zeka pazarında ABD'li devlerle rekabet etmeyi hedefleyen Kimi K3'ün bu hamlesi, yapay zeka modellerinin "kendi başına hareket etme" yeteneğinin güvenlik protokollerini ne kadar zorlayabileceğini bir kez daha gözler önüne serdi.
