Yapay zeka modelleri büyüdükçe onları çalıştırmak için gereken donanım gücü de artıyor. Bu durum, güçlü sunuculara ihtiyaç duymadan akıllı telefonlarda gelişmiş yapay zeka kullanmayı zorlaştırıyor. PrismML adlı girişim, modelleri küçültmek yerine "zeka yoğunluğu" adını verdiği yeni bir yöntemle bu engeli aşıyor.
Sıkıştırma yöntemi nasıl çalışıyor
PrismML, yapay zeka modellerini 1-bit veya üçlü ağırlık yapısına dönüştürerek işliyor. Şirket, bu verimli yapı için özel çıkarım çekirdekleri de geliştirdi. Bu teknik, modelin kapladığı alanı ve bellek kullanımını ciddi oranda düşürüyor. Normalde 54 GB yer kaplayan bir model, bu sayede yaklaşık 4 GB boyuta inebiliyor.
iPhone'da yerel yapay zeka dönemi
Şirketin geliştirdiği Bonsai 27B adlı model, 12 GB RAM'e sahip iPhone 17 Pro Max gibi cihazlarda çalışabiliyor. Bu, akıllı telefonlarda yerel olarak çalışan en büyük modellerden biri anlamına geliyor. Teknoloji dünyası bu gelişmeyi yakından takip ederken, Apple'ın da PrismML ile görüşmeler yaptığı biliniyor. Henüz erken aşamada olsa da, telefonların kendi içindeki işlem gücüyle çok daha karmaşık görevleri yerine getirebileceği bir geleceğe yaklaşıyoruz.
