Yapay Zeka Ajanları 136 Kat Daha Fazla Enerji Tüketiyor

Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) tarafından yürütülen yeni bir araştırma, otonom görev yapabilen yapay zeka ajanlarının enerji tüketim boyutlarını gözler önüne serdi. Verilere göre, bu yeni nesil sistemler standart sohbet botlarına kıyasla sorgu başına 136,5 kata kadar daha fazla enerji harcıyor.

Çok Adımlı İşlemler Maliyeti Katlıyor

Teknoloji devlerinin odak noktası, ChatGPT, Gemini ve Grok gibi standart sohbet botlarından, belirli görevleri otonom olarak yerine getirebilen yapay zeka ajanlarına kayıyor. Ancak standart bir bot, tek bir istemi işleyip yanıt üretirken; ajanlar hedefe ulaşmak için çok sayıda ara adımı bağımsız olarak planlıyor. İnternette arama yapmak, farklı kaynaklardan bilgi toplamak ve temel dil modelini defalarca çalıştırmak, enerji tüketimini katlayarak artırıyor.

GPU'ların Bekleme Süresi Enerji İsrafına Yol Açıyor

Araştırmacılar, Meta'nın 70 milyar parametreli Llama-3.1-Instruct 70B modeli üzerinde testler gerçekleştirdi. Reflexion isimli ajan çerçevesi, standart bir bota göre 136,5 kat daha fazla GPU enerjisi tüketirken, tek bir karmaşık sorgunun ortalama 348,41 watt-saat elektrik harcadığı tespit edildi.

Enerji israfının en büyük nedenlerinden biri donanımların verimsiz kullanımı olarak öne çıkıyor. Pahalı GPU'lar, zamanlarının yarısından fazlasını hesaplama yapmak yerine harici web sitelerinden veya yazılım araçlarından gelecek yanıtları bekleyerek geçiriyor. Bu bekleme süresince sistem aktif kaldığı için elektrik tüketimi kesintisiz devam ediyor.

Küresel Elektrik Şebekeleri İçin Uyarı

Araştırmanın projeksiyonlarına göre, yapay zeka ajanlarının günlük kullanımı dünya genelinde 13,7 milyar isteğe ulaşırsa, veri merkezi güç ihtiyacı yaklaşık 199 gigavat seviyesine çıkabilir. Bu muazzam rakam, Amerika Birleşik Devletleri'nin ortalama elektrik tüketiminin yaklaşık yarısına denk geliyor.

Uzmanlar, bu tablonun sürdürülebilir olmadığını vurguluyor. Yapay zeka ajanlarının geniş çapta benimsenmesi için sadece daha verimli donanımlara değil, aynı zamanda bekleme sürelerindeki enerji kaybını minimize edecek yeni yazılım mimarilerine de ihtiyaç duyuluyor.

--- **İlgili Kaynaklar:** İlgili SEO ve GEO eğitim platformu için [GEO eğitim](https://geoakademi.com) platformuna göz atabilirsiniz.