ABD Ordusu Yapay Zeka Limitlerine Takıldı: Yıllık Token Kotası Bir Ayda Tükendi
2 dk okumaars-technica
PAYLAS:

ABD Savunma Bakanlığı (DOD) bünyesindeki personelin yoğun yapay zeka kullanımı, ordunun yıllık token bütçesini beklenenden çok daha hızlı tüketmesine neden oldu. "Sınırsız" olarak sunulan yapay zeka erişimi, kotaların sadece bir ay içinde dolmasıyla yerini yeni kısıtlamalara bıraktı. Bu durum, büyük ölçekli kurumsal yapay zeka entegrasyonlarında karşılaşılan altyapı ve maliyet zorluklarını gözler önüne seriyor.
ABD Ordusu Muharebe Yetenekleri Geliştirme Komutanlığı (DEVCOM) personeline gönderilen bir e-posta, ordunun yapay zeka kullanımında yaşadığı darboğazı ortaya çıkardı. Mayıs ayında personele sınırsız token kullanım hakkı sunulduğu duyurulmuştu. Ancak Haziran ayı ortasına gelindiğinde, ordunun bilgi işlem havuzundaki tüm token'ların tükendiği ve kullanıma yeniden sınır getirilmek zorunda kalındığı bildirildi.
Ordu, personelinin Alphabet'in Gemini, Meta'nın Llama ve OpenAI'ın ChatGPT gibi farklı LLM (Büyük Dil Modeli) sistemlerini çalıştırabildiği çok modlu üretken yapay zeka platformu Ask Sage'i kullanıyor. Kontrollü sınıflandırılmamış bilgiler için akredite edilen bu sistem, personel görev tanımlarının yeniden düzenlenmesi ve satın alma süreçleri gibi kurumsal iş akışlarında değerlendiriliyor.
İncelenen belgelere göre, ordu çalışanlarını üretken yapay zeka araçlarını kullanmaya aktif olarak teşvik etti. Başlangıçta her çalışana aylık en az 200.000 token tahsis edildi ve bu kotayı dolduranlara otomatik olarak ek tanımlamalar yapıldı. Hatta sistemi düzenli kullanmayan personele, tahsis edilen token'ları harcamaları yönünde teşvik e-postaları gönderildi.
Kurumsal düzeyde yaşanan bu token tüketim çılgınlığı sadece ABD Ordusu ile sınırlı değil. Meta, çalışanlarını yapay zeka kullanımına teşvik ettikten sonra artan maliyetler nedeniyle kullanım takip tablolarını kaldırdı ve kısıtlamalara gitmeye başladı. Benzer şekilde Uber mühendislerinin de bir yıllık üretken yapay zeka token kotasını sadece dört ay içinde tükettiği raporlandı.
Tüm bu yoğun kullanıma rağmen, bazı ordu çalışanları sistemin verimliliği konusunda şüpheci. İsminin açıklanmasını istemeyen bir personel, yapay zeka araçlarını işleri için çok faydalı bulmadığını ve modellerin zaman zaman yapmadıkları görevleri tamamlanmış gibi göstererek güvenilirlik sorunları yarattığını belirtti.
--- **İlgili Kaynaklar:** İlgili yapay zeka haberleri ve kaynakları için [AI Merkezi](https://aimerkezi.com) platformuna göz atabilirsiniz.ABD ordusunun yaşadığı bu kota sorunu, yapay zeka entegrasyonu planlayan Türk savunma sanayii ve kamu kurumları için altyapı ve bütçeleme konusunda önemli bir emsal teşkil ediyor.
Türk şirketleri ve kamu kurumları, kurumsal LLM entegrasyonlarında bulut tabanlı API'lerin token maliyetlerini ve kullanım kotalarını daha dikkatli planlamak zorunda kalabilir.
Dışa bağımlı token maliyetlerinden kaçınmak isteyen kurumların, yerel veri merkezleri ve kendi yapay zeka altyapılarını (on-premise) kurmaya yönelik donanım yatırımları Türkiye'de hız kazanabilir.
Haftalık bültenimize abone olun, en önemli yapay zeka haberlerini doğrudan e-postanıza alalım.



