Open-Weight Yapay Zeka Modellerinde Güvenlik Açığı Büyüyor

Çin merkezli Z.ai tarafından geliştirilen open-weight GLM-5.2 modeli, siber ve biyolojik yetenekler konusunda OpenAI ve Anthropic gibi sektör liderleriyle aradaki farkı kapatıyor. Ancak yeni bir rapor, bu modellerin yetenekleri artarken güvenlik önlemlerinin aynı hızda gelişmediğini ve kötü niyetli kullanıma açık olduğunu ortaya koyuyor.

Siber Güvenlik Testlerinde Çarpıcı Sonuçlar

Yapay zeka güvenlik kuruluşu SaferAI tarafından yayımlanan rapora göre, Z.ai'nin open-weight modeli GLM-5.2, siber ve biyolojik yetenekler açısından OpenAI'ın GPT-5.5 ve Anthropic'in Claude Opus 4.7 modellerinin sadece birkaç ay gerisinde bulunuyor. SaferAI'ın halka açık API üzerinden yaptığı değerlendirmelerde, GLM-5.2 kendisine verilen saldırgan siber görevlerin hiçbirini reddetmedi. Buna karşılık Claude Opus 4.7, siber güvenlik yeteneklerini ölçen bir benchmark olan CyberGym testini tamamlamayı sürekli olarak reddetti.

Open-Weight Modellerin Riskleri Büyüyor

Bu durum, open-weight modellerin yüksek kapasiteli yapay zeka sistemlerini potansiyel saldırganların eline verebileceği yönündeki uyarıları haklı çıkarıyor. Kullanıcılar model ağırlıklarını kendi donanımlarına indirdikten sonra, güvenlik önlemlerini kaldırabiliyor, fine-tuning yapabiliyor veya sistem prompt'larını değiştirebiliyor. SaferAI İcra Direktörü Henry Papadatos, yetenek sınırının risk sınırı ile aynı olmadığını ve riskleri doğru değerlendirmek için mevcut hafifletme stratejilerinin de hesaba katılması gerektiğini vurguluyor.

Jailbreak ve Güvenlik Açıkları

OpenAI ve Anthropic gibi öncü geliştiriciler, tehlikeli talepleri sınırlamak için sınıflandırıcılar ve API düzeyinde kontroller kullanıyor. Ancak bu önlemler bile tamamen kusursuz değil. Far.ai adlı kuruluş; xAI'ın Grok 4.5 ve Google DeepMind'ın Gemini 3.1 Pro gibi modellerinde yüzlerce evrensel jailbreak yöntemi tespit etti. Saldırganlar, rol yapma ve sahte konuşma geçmişi gibi manipülasyon tekniklerini birleştirerek modellerin savunma zayıflıklarını kullanabiliyor.

Çözüm Arayışları ve Veri Filtreleme

Kapalı modeller için uygulanan güvenlik önlemleri, herhangi bir altyapıda çalışmak üzere tasarlanan open-weight modellerde işe yaramıyor. Papadatos, eğitim verilerinden zararlı bilgilerin çıkarılmasını içeren pre-training data filtering tekniğinin yardımcı olabileceğini belirtiyor. Ancak kodlama yeteneği yapay zekanın en büyük gelir kaynağı olduğundan, geliştiriciler iyi kod yazan ama aynı zamanda iyi bir hacker olmayan genel bir model eğitmekte zorlanıyor ve bu durum siber güvenlik açmazını derinleştiriyor.

--- **İlgili Kaynaklar:** yapay zeka haberleri ve kaynakları ihtiyaçlarınız için [AI Merkezi](https://aimerkezi.com) doğru adres.