Yapay zeka dünyasının en büyük oyuncusu Nvidia, çiplerinin en zayıf karnını güçlendirmek için kolları sıvadı. Şirket, mevcut bellek teknolojilerinin yetersiz kaldığı noktada kendi çözümünü üretti. Bu hamle, önümüzdeki yıllarda kullanacağın yapay zeka araçlarının ne kadar hızlı çalışacağını doğrudan belirleyecek.
Bellek mimarisinde köklü değişiklik
Nvidia'nın geliştirdiği NVHBM adlı sistem, bellek denetleyicisini işlemcinin ana gövdesinden alıp doğrudan bellek modülünün içine yerleştiriyor. Bu basit gibi görünen değişiklik, veri transfer yollarını kısaltıyor ve şişeleri ortadan kaldırıyor. Şirketin verilerine göre bu yöntem, mevcut en hızlı standart olan HBM4E'ye kıyasla yüzde 30'dan fazla bant genişliği artışı sağlıyor. Güç tüketimi ise yüzde 15 azalıyor.
Bu düzenlemenin bir başka faydası daha var. Bellek denetleyicisi çipten çıktığı için işlemcinin ana gövdesinde yüzde 25'e varan oranda boş alan oluşuyor. Nvidia, bu kazanılan alanı ek hesaplama birimleriyle doldurmayı planlıyor. Yani aynı boyuttaki çipe daha fazla işlemci sığdırmak mümkün olacak.
Amazon'dan ilk destek
Nvidia bu teknolojiyi tek başına kullanmayacak. Amazon'un çip geliştirme birimi Annapurna Labs, NVHBM'yi kullanan ilk ortaklardan biri olacak. İki şirket, bu teknolojiyi Amazon'un bulut altyapısında birleştirecek. Yeni nesil AWS Trainium çipleri, Nvidia'nın NVLink Fusion ekosistemiyle uyumlu hale gelecek. Bu sayede Amazon'un kendi çipleri ile Nvidia GPU'ları aynı sistem içinde birlikte çalışabilecek.
Sıradaki hedef 2028
Nvidia, NVHBM teknolojisini ilk kez 2028'de çıkması beklenen Feynman nesli GPU'larda kullanacak. Şirket, bu teknolojiyi birden fazla üreticinin kullanabileceği standart bir çözüm haline getirmek istiyor. Samsung, SK Hynix ve Micron da benzer mimariler üzerinde çalışıyor. Rekabetin kızışması, önümüzdeki yıllarda yapay zeka donanımlarının hem daha güçlü hem de daha verimli olacağını gösteriyor.
