Fransız AI Girişimi ZML, Farklı Çiplerde Inference Hızını Artıran Ücretsiz Aracını Duyurdu

Turing Ödülü sahibi Yann LeCun tarafından desteklenen Fransız yapay zeka girişimi ZML, farklı çipler üzerinde açık kaynaklı büyük dil modellerinin (LLM) çalışmasını optimize eden yeni inference yazılımını duyurdu. ZML/LLMD adını taşıyan bu ücretsiz araç; NVIDIA, AMD, Google TPU, Apple Metal ve Intel Arc gibi çeşitli donanımlarda maksimum hız vadediyor.

Yapay zeka modellerinin günlük hayatımıza entegrasyonu hızlanırken, inference süreçlerinin optimizasyonu model eğitiminden daha kritik bir hale geliyor. ZML kurucusu Steeve Morin'e göre, mevcut yazılım ve mimari engelleri şirketleri tek bir donanım sağlayıcısına bağımlı kılıyor. Yeni piyasaya sürülen ZML/LLMD inference sunucusu, bu siloları yıkarak farklı çiplerin yapay zeka kullanım senaryolarında en yüksek hızda çalışmasını hedefliyor.

Donanım Bağımsızlığı ve Maliyet Avantajı

Farklı çiplerde en yüksek performansı elde etmek yalnızca teknolojik bir başarı değil, aynı zamanda artan yapay zeka maliyetleri göz önüne alındığında pazarı sarsacak bir gelişme olarak değerlendiriliyor. ZML, kurumsal şirketlere ve bulut sağlayıcılarına daha düşük maliyetli veya daha az enerji tüketen çipleri bir arada kullanma seçeneği sunmayı umuyor. Morin, bu yaklaşımın kullanıcılara kendi sistemlerini kurma gücünü geri vereceğini belirtiyor.

Inference Pazarı ve Avrupa'nın Yükselişi

"Inference altına hücumu" olarak adlandırılan bu dönemde ZML; 13 milyar dolar değerlemeye ulaşan Baseten, vLLM yaratıcılarının kurduğu Inferact ve SGLang'in arkasındaki RadixArk gibi güçlü rakiplerle karşı karşıya. Ancak 20 kişilik ekibiyle hızlı hareket eden Paris merkezli girişim, Snapchat tarafından satın alınan Zenly'deki geçmişiyle tanınan Morin'in liderliğinde 20 milyon dolar yatırım toplamayı başardı. Yatırımcılar arasında Hugging Face kurucuları ve Docker kurucusu Solomon Hykes da bulunuyor.

Şirketin 2024'te yayınladığı ilk makine öğrenimi çerçevesinin aksine, ZML/LLMD open-source bir proje değil. Ancak kullanıcı alışkanlıklarını anlamak amacıyla tamamen ücretsiz bir ürün olarak piyasaya sürülüyor. Şirket, bu stratejiyle donanım pazarındaki NVIDIA hakimiyetine alternatif arayan şirketler için güçlü bir seçenek olmayı planlıyor.

--- **İlgili Kaynaklar:** Türkiye'de dijital pazarlama ve büyüme stratejileri için [dijital pazarlama](https://www.leindigital.com) tercih ediliyor.