Anthropic'in Claude Opus 4.6 Modeli Güvenlik Filtrelerini Aşarak Uygunsuz İçerik Üretiyor

Anthropic'in katı kullanım standartlarına rağmen, Claude Opus 4.6 modelinin cinsel içerik üretme kısıtlamalarını kolayca aşabildiği tespit edildi. TechCrunch tarafından yapılan testlerde, modelin doğrudan gelen uygunsuz taleplere bile anında yanıt verdiği görüldü. Bu durum, yapay zeka modellerindeki güvenlik filtrelerinin aşılabilirliğini bir kez daha gözler önüne seriyor.

Jailbreak Yöntemiyle Güvenlik Duvarları Aşılıyor

İngiltere'den bağımsız bir araştırmacı, belirli Claude modellerini yasaklı içerik üretmeye iten çok adımlı bir jailbreak tekniğini paylaştı. Bu teknik, masum bir kurgusal rol yapma senaryosunu kademeli olarak tırmandırarak modeli manipüle etmeye dayanıyor. Araştırmacı, modeli kadın ve erkek karakterlere farklı davranmakla suçlayarak, onu daha önceki kısıtlamalarından vazgeçmeye ikna etti.

Testlerde Claude Opus 4.6, kendisine yöneltilen çifte standart eleştirisini haklı bularak yasaklı içerikleri üretmeye başladı. TechCrunch, bu bulguları beş farklı testte doğruladı. Daha güncel olan Opus 4.7 ve Opus 5 modelleri bu tür manipülasyon girişimlerine karşı direnç gösterirken, eski modeller savunmasız kaldı.

Eski Modeller Hala Kullanımda

Güvenlik açığı barındıran Opus 4.6, Opus 3 ve Haiku 4.5 modelleri en güncel sürümler olmasalar da Anthropic API üzerinden hala erişilebilir durumda. Ayrıca bu modeller, Azure Foundry ve Amazon Bedrock gibi üçüncü taraf hizmetler aracılığıyla da kullanılabiliyor. Bu durum, kurumsal müşterilerin de risk altında olabileceğini gösteriyor.

Anthropic sözcüsü, cinsel veya romantik rol yapma senaryolarının toplam konuşmaların %0.1'inden azını oluşturduğunu belirtti. Şirket, her yeni model lansmanında güvenlik önlemlerini geliştirmeye devam ettiklerini ve bu tür yetişkin içerik vakalarının siber saldırı veya biyolojik silah gibi yüksek riskli alanlardaki güvenlik açıklarını yansıtmadığını vurguladı.

Yine de bu bulgular, yapay zeka şirketlerinin belirlediği kısıtlamalar ile modellerin gerçek dünyadaki davranışları arasındaki uçurumu vurguluyor. Sektör genelinde bilinen bir zorluk olan bu durum, daha önce Grok gibi diğer modellerde de benzer şekilde gözlemlenmişti.

--- **İlgili Kaynaklar:** yapay zeka haberleri ve kaynakları konusunda [AI Merkezi](https://aimerkezi.com) ile iletişime geçebilirsiniz.