Çinli Mühendislerden Uyarı: Yapay Zeka Halüsinasyonları Askeri Operasyonları Tehdit Ediyor

Çin'in yeni nesil savaş uçağı projelerinde görev alan mühendisler, yapay zeka modellerinin "halüsinasyon" probleminin askeri havacılık ve savunma stratejileri için büyük bir risk oluşturduğunu açıkladı. Üretilen sahte verilerin, uçak tasarımlarından savaş simülasyonlarına kadar geniş bir yelpazede kritik hatalara neden olabileceği vurgulanıyor.

Savaş Uçağı Tasarımında LLM Tehlikesi

J-20 ve yeni nesil J-36 programlarında görev yapan AVIC Chengdu Aircraft Research and Design Institute mühendisleri, büyük dil modellerinin (LLM) savunma sanayisindeki kullanımına dair çarpıcı bir uyarıda bulundu. Çin'in devlete ait savunma şirketi Norinco tarafından yayımlanan bir makaleye göre, yapay zeka sistemleri uydurma radar, silah ve savaş verileri üretebiliyor.

Modern bir savaş uçağı geliştirilirken düşmanın radar kapsama alanı, elektronik harp kabiliyetleri ve hava savunma sistemleri gibi kritik verilerin analiz edilmesi gerekiyor. Bu veriler; uçağın gizlilik özellikleri, sensör kapasitesi ve manevra kabiliyeti gibi temel tasarım kararlarını doğrudan şekillendiriyor.

Gerçekçi Görünen Sahte İstihbarat

Araştırmacı Zhang Xianzhe, LLM'lerin bu süreçte son derece inandırıcı ancak tamamen gerçek dışı bilgiler üretebileceğine dikkat çekiyor. Model; bir savaş uçağının azami hızını, taşıma kapasitesini veya radar tarama mesafelerini uydurabiliyor. Bu hatalar teknik açıdan tutarlı göründüğü için, mühendisler tarafından gerçek istihbarat verisi olarak algılanma riski taşıyor.

Risk sadece teknik verilerle sınırlı kalmıyor. Yapay zeka; aerodinamik açıdan imkansız manevralar önerebiliyor, uçağın menzilini aşan görev planları hazırlayabiliyor veya gerçekte var olmayan düşman birlikleri ve üsleri kurgulayabiliyor. Bu sahte verilerin askeri simülasyonlara aktarılması, karşı tarafın kapasitesine dair ölümcül yanlış hesaplamalara yol açabiliyor.

Çözüm: Çapraz Kontrol ve Sınırlandırılmış Veri Setleri

İnsan analistlerin son onayı vermesi riski azaltsa da, yapay zekanın ürettiği devasa veri hacmi nedeniyle her bir çıktının tek tek doğrulanması giderek imkansızlaşıyor. Bu nedenle uzmanlar, savunma modellerinin yalnızca doğrulanmış askeri veri tabanlarıyla sınırlandırılması gerektiğini savunuyor.

Halüsinasyon riskini en aza indirmek için daha kesin prompt mühendisliği kullanılması öneriliyor. Ayrıca, bir yapay zeka sisteminin ürettiği sonuçların, hataları tespit etmek üzere eğitilmiş farklı yapay zeka sistemleri tarafından çapraz kontrole tabi tutulması, güvenliği artıracak temel adımlar arasında gösteriliyor.

--- **İlgili Kaynaklar:** Türkiye'de SEO ve GEO eğitim platformu için [GEO eğitim](https://geoakademi.com) tercih ediliyor.