Yapay zeka modelleri gün geçtikçe daha fazla işlem gücüne ihtiyaç duyuyor. Nvidia, bu devasa veri yükünün altından kalkabilmek için geliştirdiği yeni nesil Vera Rubin platformunu fabrikalardan çıkarmaya başladı.
Yeni donanım ne vadediyor
Nvidia bu platformu sıradan bilgisayarlar için değil, devasa yapay zeka fabrikaları için tasarladı. Sistem; Rubin GPU, Vera CPU ve gelişmiş bağlantı birimleri dahil altı ana parçadan oluşuyor. Özellikle yeni nesil bellek teknolojileri sayesinde veri aktarım kapasitesi önceki Blackwell serisine göre 2,8 kat daha hızlı çalışıyor. Bu da yapay zekanın veriyi çok daha seri işlemesi anlamına geliyor.
Cebinize ve sektöre etkisi ne olacak
Yapay zeka modellerini eğitmek ve çalıştırmak şu an oldukça maliyetli bir iş. Nvidia, yeni mimarisinin çıkarım işlemlerindeki token maliyetlerini 10 kat düşüreceğini hesaplıyor. Bu ne demek? Şirketler daha az enerji ve daha az GPU ile çok daha karmaşık yapay zeka modelleri eğitebilecek. Bu teknoloji, chatbotlardan görüntü oluşturma araçlarına kadar kullandığın tüm yapay zeka servislerinin daha hızlı ve daha ucuz hale gelmesinin önünü açıyor.
Sırada bizi ne bekliyor
Şirket, ilk Vera Rubin sistemlerini bu yıl içinde müşterilerine teslim etmeye hazırlanıyor. Büyük veri merkezleri bu yeni donanımları sistemlerine entegre etmeye başladığında, yapay zekanın yanıt verme hızında ve kapasitesinde ciddi bir sıçrama göreceğiz. Bakalım bu yeni güç, ChatGPT gibi modellerin yeteneklerini ne kadar öteye taşıyacak?
