Yapay Zeka Şirketi Anthropic, Biyolojik Silah Geliştirmeye Çalışan Kullanıcıları Engelledi

Yapay zeka şirketi Anthropic, geliştirdiği dil modellerinin biyolojik silah üretimi gibi tehlikeli amaçlarla kullanılmasını engellemek için harekete geçti. Şirket tarafından yayımlanan yeni bir raporda, Claude modelini kullanarak tehlikeli patojenler ve toksinler üzerinde çalışan hesapların tespit edilerek kapatıldığı duyuruldu.

Yapay Zeka ve Biyolojik Tehditler

Anthropic'in yayımladığı rapora göre, yapay zeka modellerinin en büyük risklerinden biri "biyolojik kötüye kullanım" olarak öne çıkıyor. Uzmanlar, gelişmiş AI sistemlerinin mevcut patojenleri daha ölümcül hale getirebileceği veya tamamen yeni virüslerin tasarlanmasına yardımcı olabileceği konusunda uzun süredir uyarılarda bulunuyordu.

Raporda, şirketin amiral gemisi modeli olan Claude'u bu tür tehlikeli araştırmalar için kullanan kişilere dair çarpıcı örneklere yer verildi. Tespit edilen vakalardan birinde, desteklenmeyen bir bölgede çalışan bir araştırmacının, kuş gribinin memelilere adaptasyonu üzerine deneyler planlamak için sistemi kullandığı belirlendi.

Hesaplar Kapatıldı, Güvenlik Önlemleri Artırıldı

Bir başka dikkat çekici örnekte ise devlet destekli olduğu düşünülen bir araştırmacının, bilgisayar ortamında toksinleri yeniden tasarlamaya çalıştığı kaydedildi. Anthropic, bu şüpheli faaliyetlerin tespit edilmesinin ardından ilgili kullanıcıların hesaplarını derhal engellediğini açıkladı.

Şirket yetkilileri, engellenen kişilerin kesin olarak "kötü niyetli" olduğunu iddia etmediklerini, ancak yüksek risk potansiyeli nedeniyle tedbirli davrandıklarını vurguladı. Yapılan açıklamada, bu örneklerin paylaşılmasındaki temel amacın, sektörde ortaya çıkan biyolojik riskler ve bu tehditlere karşı nasıl önlem alınabileceği konusunda küresel bir diyalog başlatmak olduğu belirtildi.

Şirket İçinde "Süper İnsan" Endişesi

Öte yandan, şirketin güvenlik politikaları ve yapay zekanın geleceği konusundaki tartışmalar şirket içine de yansımış durumda. Kısa süre önce Anthropic çalışanı Jacob Coxon, yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceği" endişesiyle görevinden istifa etmişti. Coxon'un bu uyarısı, teknoloji dünyasında geniş yankı uyandırmış ve dil modeli güvenliği tartışmalarını yeniden alevlendirmişti.

--- **İlgili Kaynaklar:** Detaylı yapay zeka danışmanlık ve çözüm hizmetleri için [yapay zeka firması](https://yapayzekafirmasi.com) sayfasını incelemenizi öneriyoruz.