Papa XIV. Leo, Katolik Kilisesi'nin yeni yayımladığı manifestoda yapay zekanın kontrolsüz büyümesine karşı sert bir uyarıda bulundu. Magnifica Humanitas adını taşıyan belge, teknolojinin insanlığa fayda sağlaması kadar, yanlış ellerde bir silaha dönüşme riskine de odaklanıyor. Papa, hükümetlerin kararları teknoloji şirketlerine bırakmamasını ve etik bir çerçeve çizmesini talep ediyor.
Savaş teknolojilerinde yapay zekâ riski
Papa'nın en dikkat çekici uyarısı askeri alana yönelik oldu. Özellikle otonom silahların savaşları daha kolay ve erişilebilir hâle getirmesi büyük bir tehdit oluşturuyor. Ölümcül kararların sadece algoritmalara bırakılması, geri dönülemez hatalara kapı aralıyor. Papa, savaş meydanlarında kullanılan tüm yapay zekâ sistemlerinin sıkı etik kurallarla sınırlandırılması gerektiğini vurguluyor.
Veri gücü ve toplumsal kontrol
Teknoloji devlerinin elindeki devasa veri gücü, insanların tüketim alışkanlıklarından demokratik seçimlere kadar her şeyi manipüle edebiliyor. Papa, bu gücün küçük grupların kontrolünde kalmasının toplum için ciddi bir risk yarattığı görüşünde. Bu yüzden bağımsız denetim mekanizmaları kurulmalı ve karar süreçlerine toplumun tüm kesimleri dahil edilmeli. Teknoloji dünyasının önde gelen isimleri de bu denetim eksikliğinin ticari baskılar nedeniyle tehlikeli bir yöne evrildiğini kabul ediyor.
