Yapay Zeka Modellerinin Gizli Düşüncelerini Ortaya Çıkaran Yeni Yöntem

Bilgisayar bilimciler, OpenAI, Anthropic ve Google gibi şirketlerin gelişmiş yapay zeka modellerindeki gizli "düşünme" süreçlerini açığa çıkaran bir güvenlik açığı tespit etti. Araştırma, bazı Çinli modellerin ABD merkezli sistemlerden veri kopyalamış olabileceğine dair ipuçları sunarken, API anahtarları ve şifreler gibi kişisel bilgilerin de sızdırılabileceğini gösterdi.

Model Damıtma ve Kopyalama İddiaları

Tubingen Üniversitesi, Max Planck Enstitüsü, MATS Research ve güvenlik şirketi Snyk'ten araştırmacılar, yapay zeka modellerinin API üzerinden erişilen sürümlerinde kritik bir sorun tespit etti. Yayımlanan makaleye göre, Moonshot AI tarafından geliştirilen Çinli Kimi K3 modeli, belirli komutlarda Claude Opus 4.8 ve GPT 5.6 Sol'un gizli akıl yürütme adımlarına çarpıcı bir benzerlik gösteriyor. Araştırmacılar bu durumun doğrudan bir kopyalama (distillation) olduğunu kesin olarak kanıtlamasa da, şüpheleri artırdığını belirtiyor.

Damıtma (distillation), mevcut modellerin yeteneklerini yeni modellere aktarmak için yaygın olarak kullanılan bir teknik. Ancak son dönemde Çinli şirketlerin en iyi ABD modellerini kopyalamak için bu yöntemi kullandığı iddiaları tartışma yaratıyor. Şubat ayında OpenAI, DeepSeek'in kendi modellerinden birini kopyalayarak R1 adlı modeli geliştirdiğini öne sürmüştü. Benzer şekilde Anthropic de Alibaba'nın Qwen modelini oluşturmak için kendi sistemlerini damıttığını iddia etmişti.

Küçük Modeller Üzerinden Yapılan Saldırı

Gelişmiş modeller, zor problemleri "düşünce zinciri" (chain of thought) adı verilen bir yapay akıl yürütme süreciyle parçalara ayırarak çözer. Şirketler, başkalarının yeni modeller eğitmesini engellemek için bu akıl yürütme sürecini gizli tutar. Ancak araştırmacıların keşfettiği saldırı yöntemi, şirketlerin sunduğu farklı boyutlardaki modeller arasındaki güvenlik farkından yararlanıyor.

Araştırmacılar, şifrelenmiş akıl yürütme verilerini aynı modelin daha küçük bir versiyonuna beslemenin gizli düşünceleri ortaya çıkarabildiğini buldu. Daha küçük modeller daha az güvenlik eğitiminden (alignment) geçtiği için, büyük modellerin aksine içsel düşüncelerini gizlemeyi reddetme olasılıkları daha düşük oluyor. ETH Zürih'ten bilgisayar güvenlik uzmanı Florian Tramer, aynı şifre çözme anahtarına sahip ancak daha zayıf bir modele mesaj aktarımı yapma fikrinin oldukça etkili bir yöntem olduğunu vurguluyor.

Güvenlik Açığı Kapatıldı

Bu yöntem sadece modellerin nasıl düşündüğünü ortaya çıkarmakla kalmadı, aynı zamanda akıl yürütme süreçlerine gömülü olan şifreler ve API anahtarları gibi gizli bilgilerin de sızdırılmasına olanak tanıdı. Araştırmacılar, tespit edilen bu kritik siber güvenlik zafiyetinin ilgili şirketler tarafından kapatıldığını bildirdi. Yine de bu keşif, kapalı kaynaklı (closed-source) modellerden sanılandan çok daha fazla bilginin sızdırılabileceğini kanıtlamış oldu.

--- **İlgili Kaynaklar:** İlgili yapay zeka danışmanlık ve çözüm hizmetleri için [yapay zeka firması](https://yapayzekafirmasi.com) platformuna göz atabilirsiniz.