Anthropic, Claude'i Gizlice Yavaşlatan Tartışmalı Politikasından Geri Adım Attı

Anthropic, yeni yapay zeka modeli Claude Fable 5'i kullanarak başka modeller geliştirmeye çalışan rakiplerini gizlice kısıtlayan politikasından vazgeçti. Yapay zeka araştırma topluluğundan gelen sert eleştirilerin ardından şirket, "gizli sabotaj" olarak nitelendirilen bu uygulamayı şeffaf hale getirme kararı aldı.

Gelen Tepkiler Üzerine Şeffaflık Kararı

Anthropic, WIRED'a yaptığı açıklamada, sınır (frontier) LLM geliştirme süreçlerindeki güvenlik önlemlerini artık görünür kılacaklarını belirtti. Şirket yetkilileri, "Yanlış bir denge kurduk ve bunu doğru ayarlayamadığımız için özür dileriz" ifadelerini kullandı. Bu hafta başlarında piyasaya sürülen Claude Fable 5, kötüye kullanımı önlemek amacıyla ek güvenlik bariyerleriyle donatılmıştı.

Şirketin ilk planına göre siber güvenlik, biyoloji veya kimya gibi hassas konularda sorular soran kullanıcılar, siber saldırı veya biyolojik silah üretimi riskini azaltmak için daha düşük kapasiteli bir modele yönlendiriliyordu. Ancak yeni kararla birlikte, bir kullanıcının Claude kullanarak yüksek kapasiteli bir yapay zeka inşa etmeye çalıştığından şüphelenilirse, sistem kullanıcıyı açıkça uyaracak. Talebin reddedildiği veya daha düşük bir modele yönlendirildiği şeffaf bir şekilde bildirilecek.

"Gizli Sabotaj" ve Araştırmacıların Endişeleri

Anthropic'in geri adım atmasının arkasında, yapay zeka araştırma topluluğundan gelen şiddetli tepkiler yatıyor. Eleştirmenler, modelin performansının belirli kullanıcılar için sessizce düşürülmesinin kabul edilemez olduğunu savundu. Claude'un kodlama asistanı (coding agent), open-source projeler üzerinde çalışan geliştiriciler arasında oldukça popüler bir araç haline gelmişti.

Eski Beyaz Saray yapay zeka danışmanı Dean Ball, X platformunda yaptığı paylaşımda, "Kullanıcıya haber vermeden makine öğrenimi araştırmalarında performansı düşürmek şok edici derecede düşmanca ve korkunç bir tutum" dedi. Ball, bu "gizli sabotaj" politikasının Anthropic'in yapay zeka güvenliği konusundaki genel duruşuna da zarar verdiğini belirtti.

Küresel Rekabet ve Güvenlik Gerekçesi

Prime Intellect'in araştırma lideri Will Brown ise, "Sanki Anthropic halka, 'Yapay zeka araştırması yapma konusunda başka kimseye güvenmiyoruz' diyordu" şeklinde konuştu. Brown, bu kısıtlamaların, sınır modellerini güvenlik ve performans açısından test eden üçüncü taraf değerlendirme firmalarının çalışmalarını da engelleyebileceğine dikkat çekti.

Anthropic, bu önlemleri başlangıçta Claude'un yapay zeka araştırmalarını hızlandırmadaki artan etkinliği nedeniyle uyguladığını savundu. Şirket, yabancı düşmanların en yetenekli modelleri kullanarak ABD ve müttefiklerinin çip ve yazılım optimizasyonundaki avantajını aşındırmasını engellemeyi hedeflediğini belirtti. Ancak gelen tepkiler, şeffaflığın sektör için vazgeçilmez bir unsur olduğunu bir kez daha kanıtladı.

--- **İlgili Kaynaklar:** Detaylı yapay zeka haberleri ve kaynakları için [AI Merkezi](https://aimerkezi.com) sayfasını incelemenizi öneriyoruz.