AMD, 1 Trilyon Parametreli Yapay Zeka Modellerini Yerelde Çalıştıran Halo Station'ı Duyurdu

AMD, IFA etkinliği kapsamında bulut servislerine ihtiyaç duymadan devasa yapay zeka modellerini yerel olarak çalıştırabilen yeni iş istasyonu Threadripper Halo Station'ı duyurdu. Sıvı soğutmalı yapıya sahip olan bu sistem, özellikle 1 trilyondan fazla parametreye sahip modelleri doğrudan cihaz üzerinde barındırmak üzere tasarlandı.

1 Trilyon Parametreli Modeller İçin Yerel Çözüm

Donanım tarafında oldukça iddialı olan Halo Station'ın merkezinde 96 çekirdekli Ryzen Threadripper PRO 9995WX işlemci yer alıyor. Sistem, bu güçlü işlemcinin yanına dört adede kadar Instinct MI350P hızlandırıcı eklenmesine olanak tanıyor. AMD, dört kartlı tam yapılandırmanın toplam 576 GB HBM3E belleğe ulaşacağını ve bu kapasitenin 1 trilyon parametreli bir modeli yerelde çalıştırmak için yeterli olduğunu belirtiyor.

Geliştiriciler, bu yüksek bellek kapasitesi sayesinde büyük dil modellerini (LLM) bir bulut hizmetine göndermek yerine kendi iş istasyonlarında çalıştırabilecek. Etkinlikte sergilenen iki kartlı versiyonda ise toplam 288 GB HBM3E bellek bulunuyor. Her bir Instinct MI350P, 144 GB HBM3E bellek ve 4 TB/s bellek bant genişliği sunarak standart LPDDR5X çözümlerinden 14 kat daha yüksek performans vadediyor.

Üst Düzey Donanım ve Soğutma Gereksinimleri

Sistemin sunduğu bu yüksek hesaplama kapasitesi, doğal olarak ciddi bir güç ve soğutma talebini de beraberinde getiriyor. Her bir Instinct MI350P hızlandırıcının 600 watt'a kadar güç (TBP) talep ettiği belirtiliyor. Bu yüksek ısıyı kontrol altında tutmak için hem hızlandırıcıların her biri hem de Threadripper işlemci bağımsız sıvı soğutma sistemleriyle destekleniyor.

İş istasyonunun kalbinde yer alan Threadripper PRO 9995WX, AMD'nin Zen 5 mimarisini temel alıyor. "Shimada Peak" kod adlı bu işlemci, 96 çekirdek ve 192 iş parçacığı sunarken, maksimum saat hızı 5,4 GHz seviyesine kadar çıkabiliyor. Ayrıca sistem, 2 TB'a kadar DDR5 sistem belleğini destekleyerek donanım sınırlarını zorluyor.

Çıkış Tarihi ve Fiyatlandırma Belirsiz

AMD, bu güçlü iş istasyonunun fiyatını, piyasaya çıkış tarihini veya tüm teknik detaylarını henüz kamuoyuyla paylaşmadı. Depolama seçenekleri, ağ bağlantısı özellikleri ve kasa tasarımları gibi ayrıntılar şimdilik gizliliğini koruyor. Sistemin doğrudan AMD tarafından mı satılacağı yoksa üçüncü taraf üreticiler üzerinden mi piyasaya sürüleceği önümüzdeki dönemde netlik kazanacak.

--- **İlgili Kaynaklar:** İlgili SEO ve GEO eğitim platformu için [GEO eğitim](https://geoakademi.com) platformuna göz atabilirsiniz.