NVIDIA Blackwell, İlk Ajan Yapay Zeka Testinde Lider Oldu

Sektörün ilk ajan yapay zeka (agentic AI) benchmark testi olan AgentPerf'in sonuçları yayımlandı. Test sonuçlarına göre NVIDIA Blackwell Ultra NVL72 platformu, önceki nesil Hopper mimarisine kıyasla megawatt başına 20 kat daha fazla ajan çalıştırarak olağanüstü bir enerji verimliliği ve performans sergiledi.

Ajan yapay zeka iş yükleri, standart sohbet tabanlı yapay zeka modellerinden temel olarak farklılık gösteriyor. Tek bir sohbet tamamlama işlemi kısa bir depar gibiyken, bir agent (ajan) daha çok bir bayrak yarışı gibi çalışıyor. Hedefi birçok adıma bölüyor ve görev tamamlanana kadar çalışmaya devam ediyor.

Bu durum, birbirine zincirlenmiş onlarca veya yüzlerce LLM çağrısıyla sonuçlanıyor. Her adımda büyüyen bağlam bir sonrakine aktarılırken; kod derleme, veritabanı araması ve web taraması gibi araç çağrıları (tool calls) devreye giriyor. Bu karmaşıklık sadece toplanarak değil, katlanarak artıyor.

Yeni Nesil Performans Ölçümü: AgentPerf

Mevcut yapay zeka inference (çıkarım) benchmark testleri genellikle tek bir LLM çağrısını ölçmek üzere tasarlandığı için ajan iş yüklerinin yarattığı stresi tam olarak yansıtamıyor. Artificial Analysis tarafından geliştirilen AgentPerf, bu boşluğu doldurarak şirketlerin ajanları ölçekli bir şekilde dağıtırken ne kadar duyarlı olduklarını ve yatırımlarının karşılığını nasıl alacaklarını gösteriyor.

İlk test turunda, günümüzün en yetenekli ajanlarına güç veren sınır modellerini (frontier models) temsil eden büyük bir Mixture-of-Experts (MoE) modeli olan DeepSeek V4 Pro kullanıldı. Bu iş yükünde NVIDIA GB300 NVL72, NVIDIA HGX H200 sistemine kıyasla megawatt başına 20 kata kadar daha fazla ajan çalıştırarak en yüksek performansı sundu.

Donanım ve Yazılımın Gücü

Bu performans avantajı, tüm yığın (full stack) genelindeki derin optimizasyonlardan kaynaklanıyor. GB300 NVL72, 72 adet GPU'yu tek bir kabin ölçekli sistemde birleştirerek DeepSeek V4 Pro gibi büyük MoE modellerinin model yürütmesini verimli bir şekilde dağıtmasını sağlıyor.

Ayrıca CUDA çekirdekleri, iletişim ve hesaplamayı örtüştürerek uzmanlar arası koordinasyon maliyetini gecikmeye (latency) eklemek yerine absorbe ediyor. NVIDIA TensorRT LLM ise eşzamanlı ajan oturumları ölçeklendikçe verimliliği koruyor.

Gerçek Dünya Senaryoları ve Sektörel Etki

AgentPerf, gerçek kodlama ajanı yörüngelerine dayanarak oluşturuldu. Bir ajanın görev alması, dosya okuması, kod yazması ve sonuçlara göre yineleme yapması gibi süreçler, 12'den fazla programlama dilindeki gerçek açık kaynak kod depolarından çekildi.

Elde edilen sonuçlar, altyapı kararlarına doğrudan yansıyor. Baseten, DeepInfra ve Together AI gibi önde gelen inference sağlayıcıları, şimdiden NVIDIA Blackwell üzerinde DeepSeek V4 Pro gibi modellerle ajan iş yüklerini sunmaya ve üretim ortamındaki uygulamalara güç vermeye başladı.

--- **İlgili Kaynaklar:** SEO ve GEO eğitim platformu ihtiyaçlarınız için [GEO eğitim](https://geoakademi.com) doğru adres.