NVIDIA, RTX ve DGX GPU'larında Yerel Yapay Zeka Performansını ve Kurulumunu İyileştiriyor

NVIDIA, yerel olarak çalışan yapay zeka modelleri ve otonom ajanlar için RTX ve DGX platformlarına yönelik kapsamlı geliştirmelerini duyurdu. Açık kaynaklı topluluklarla yapılan iş birlikleri sayesinde inference (çıkarım) performansında ciddi artışlar sağlanırken, 24 GB ve üzeri VRAM kapasiteli ekran kartlarında tek tıkla yapay zeka kurulumu dönemi başlıyor.

RTX ve DGX Sistemlerinde Çarpıcı Hız Artışı

Şirketin paylaştığı verilere göre, open-source llama.cpp ve vLLM topluluklarıyla gerçekleştirilen optimizasyonlar, yapay zeka iş yüklerinde performansı önemli ölçüde artırıyor. Özellikle GeForce RTX 5090 gibi üst seviye GPU'larda llama.cpp kullanılarak yapılan testlerde dikkat çekici sonuçlar elde edildi. Qwen3.6-27B modelinde token üretim hızı yüzde 50'ye kadar artarken, daha büyük olan Qwen3.6-35B modelinde bu hızlanmanın yüzde 90'a kadar ulaştığı belirtiliyor.

Optimizasyonlar sadece oyuncu odaklı kartlarla sınırlı kalmıyor. Profesyonel kullanıma yönelik RTX PRO 6000 Blackwell ekran kartında vLLM üzerinden gerçekleştirilen testlerde yüzde 20'ye varan performans artışı sağlandı. DGX Spark platformunda ise Qwen3.6-27B modeliyle 1,4 kata kadar hızlanma elde edilirken, DeepSeek v4 Flash ile yapılan inference işlemlerinde yüzde 20 civarında bir artış kaydedildi. NVIDIA, bu kazanımların yeni çekirdek optimizasyonları ve speculative decoding teknikleri sayesinde mümkün olduğunu vurguluyor.

24 GB VRAM'li GPU'lara Tek Tıkla Kurulum

Performans artışının yanı sıra NVIDIA, yerel yapay zeka kullanımını son kullanıcılar ve geliştiriciler için çok daha erişilebilir hale getiriyor. Şirket, 24 GB veya daha yüksek VRAM kapasitesine sahip NVIDIA GPU'lar için çeşitli yapay zeka ajanlarında kolaylaştırılmış kurulum desteği sunacak. Bu yeni destek ilk aşamada Hermes Agent, OpenClaw ve Perplexity Computer platformlarını kapsıyor.

Eylül ayında Windows ve Linux sistemlerine gelmesi planlanan Perplexity Portable Computer, kullanıcıların iş akışlarını yerel olarak çalıştırmasına ve gerektiğinde buluttaki gelişmiş modellere geçiş yapmasına olanak tanıyacak. Hermes Agent tarafında ise sistem, mevcut GPU'yu otomatik olarak algılayarak en uygun model ve yapılandırmayı seçecek. Microsoft ve OpenClaw tarafından geliştirilen Windows uygulaması da benzer şekilde manuel ayar ihtiyacını ortadan kaldırarak donanım kullanımını maksimize edecek.

--- **İlgili Kaynaklar:** SEO ve GEO eğitim platformu konusunda [GEO eğitim](https://geoakademi.com) ile iletişime geçebilirsiniz.