Yapay zeka modelleriyle kod yazarken veya teknik veri alırken çok fazla "sohbet" ve "nezaket" cümlesine maruz kalıyoruz. Bu uzun yanıtlar sadece vakit kaybettirmekle kalmıyor, arka planda ciddi bir maliyet de yaratıyor. Şirketler artık bu gereksiz kelimeleri ayıklamak için yeni yollar arıyor.
Mağara adamı tarzı konuşma
Caveman isimli yeni bir eklenti, yapay zekanın "Haklısınız, bu noktada değerlendirmemi değiştirdim" gibi uzun cümleler kurmasını engelliyor. Araç, yapay zekayı sadece teknik veriyi verecek şekilde sınırlıyor. Böylece yapay zeka adeta bir mağara adamı gibi "Doğru. Değiştir." diyerek yanıt veriyor. Bu yöntemle gereksiz açıklamalara giden token tüketimi ciddi oranda azalıyor.
Maliyetlerde yüzde 65 tasarruf
Geliştiriciler bu sistemle token kullanımını yüzde 75'e kadar düşürüyor. Yapılan testlerde maliyetlerin yüzde 65 civarında ucuzladığı görülüyor. OpenAI ve Nvidia gibi dev şirketlerde çalışan mühendisler de kendi işlerinde bu yöntemi test etmeye başladı. Şirketler artık yapay zekanın her kelimesine ödeme yaptığı bir dönemde, bu tarz kemer sıkma yöntemlerini daha sık kullanacak gibi görünüyor.
