Google 8. Nesil TPU 8t ve TPU 8i Çiplerini Tanıttı

Google, yapay zeka altyapısını güçlendirmek amacıyla sekizinci nesil Tensor Processing Unit (TPU) çiplerini tanıttı. "Ajan çağı" (agentic era) olarak adlandırılan yeni dönem için tasarlanan donanımlar, eğitim (training) ve çıkarım (inference) işlemleri için iki farklı versiyonla geliyor. Yeni çipler, NVIDIA donanımlarına olan bağımlılığı azaltırken, enerji verimliliği ve işlem gücünde önemli artışlar vadediyor.

Eğitim Süreçleri İçin TPU 8t

Yapay zeka modellerinin geliştirilmesinde en zorlu aşama olan eğitim süreci için TPU 8t modeli geliştirildi. Google, bu yeni çipin devasa yapay zeka modellerinin eğitim süresini aylardan haftalara indireceğini belirtiyor. Güncellenen sunucu kümeleri (pod), iki petabayt paylaşımlı yüksek bant genişliğine sahip bellekle birlikte 9.600 çip barındırıyor.

Şirketin açıklamalarına göre TPU 8t, tek bir mantıksal kümede bir milyon çipe kadar doğrusal olarak ölçeklenebiliyor. Her bir pod, önceki nesil Ironwood'un üç katı olan 121 FP4 EFlops işlem gücü sunuyor. Ayrıca yüzde 97'lik "goodpute" (verimli işlem) oranıyla donanım arızalarını otomatik yöneterek model eğitiminin kesintisiz devam etmesini sağlıyor.

Çıkarım ve Ajanlar İçin TPU 8i

Modellerin eğitildikten sonra kullanıcı taleplerine yanıt verdiği inference aşaması için ise TPU 8i devreye giriyor. Bu çip, birden fazla özelleşmiş ajanı (agent) çalıştırırken bekleme süresini en aza indirmek üzere tasarlandı. TPU 8i çipleri, önceki nesildeki 256 çiplik kümelere kıyasla 1.152 çipten oluşan daha büyük podlar halinde çalışıyor ve pod başına 11.6 EFlops performans sunuyor.

Google, her bir TPU 8i için çip içi SRAM miktarını üç katına çıkararak 384 MB'a yükseltti. Bu artış, daha büyük bir anahtar-değer (key-value) önbelleğinin çip üzerinde tutulmasına olanak tanıyarak uzun bağlam pencerelerine (context window) sahip modelleri hızlandırıyor. Ayrıca bu nesil, her iki TPU için bir CPU barındıran Google'ın özel Axion ARM işlemcilerini kullanan ilk seri olma özelliğini taşıyor.

Enerji Verimliliği ve Maliyet Odaklı Yaklaşım

Üretken yapay zeka sistemlerinin yüksek enerji tüketimi ve artan maliyetleri, sektördeki en büyük zorluklardan biri olmaya devam ediyor. Google, sekizinci nesil TPU'ların önceki nesil Ironwood'a kıyasla watt başına iki kat daha fazla performans sunduğunu iddia ediyor. Bu verimlilik artışı, şirketlerin LLM yatırımlarından daha sürdürülebilir bir geri dönüş almasına yardımcı olmayı hedefliyor.

--- **İlgili Kaynaklar:** Detaylı SEO ve GEO eğitim platformu için [GEO eğitim](https://geoakademi.com) sayfasını incelemenizi öneriyoruz.