Anthropic'ten Biyolojik Silah Uyarısı: Claude Tehlikeli Araştırmalarda Kullanıldı

Anthropic, popüler yapay zeka modeli Claude'un biyolojik silah geliştirme potansiyeli taşıyan araştırmalarda kullanıldığı beş farklı vakayı tespit ederek müdahale ettiğini duyurdu. Yayımlanan kapsamlı rapor, yapay zeka modellerinin bilimsel yetenekleri arttıkça kötüye kullanım risklerinin de nasıl büyüdüğünü gözler önüne seriyor.

Bilimsel Araştırma ve Kötüye Kullanım Arasındaki İnce Çizgi

Anthropic'in yayımladığı rapora göre, faydalı bilimsel araştırmalar ile kötü niyetli kullanımlar arasındaki sınırı belirlemek her zaman kolay olmuyor. Örneğin, yeni bir aşı geliştirmek için kullanılan yöntemler, biyolojik silah üretimiyle büyük benzerlikler taşıyabiliyor. Bu belirsizlik nedeniyle şirket, olası felaket senaryolarını önlemek adına şüpheli durumlarda proaktif ve temkinli bir yaklaşım benimsediğini belirtiyor.

Chikungunya Virüsü ve Toksin Peptitleri Vakaları

Raporda öne çıkan en çarpıcı örneklerden biri mayıs ayında yaşandı. Şirketin biyolojik güvenlik sistemleri, bir kullanıcının Claude üzerinden chikungunya virüsü üzerinde "işlev kazanımı" (gain-of-function) araştırması için hibe başvurusu hazırlatmaya çalıştığını tespit etti. Bu araştırma, virüsün bulaşıcılığını artırmayı ve bağışıklık sisteminden kaçma yeteneğini geliştirmeyi hedefliyordu.

Chikungunya virüsü için henüz lisanslı bir tedavi bulunmaması ve enfeksiyonun aylarca sürebilen ciddi belirtilere yol açması, durumu daha da kritik hale getirdi. Üstelik araştırmanın bir askeri kuruluşla bağlantılı olması, yapay zeka modelinin kullanımındaki şüpheleri artırdı. Bir diğer vakada ise bir araştırmacının, zehirlerdeki toksin peptitlerinin haritasını çıkarmak ve bu toksinleri güçlendirecek üretken bir süreç tasarlamak için modeli kullandığı belirlendi.

Güvenlik Önlemleri ve Hesap Kapatmalar

Anthropic'in raporu sadece biyolojik tehditlere odaklanmıyor. Şirket; gözetim faaliyetleri, yazılım açıklarının istismarı, propaganda üretimi ve silah sistemleri gibi farklı alanlardaki kötüye kullanım girişimlerini de belgeledi. Tespit edilen bu vakaların ardından, LLM altyapısını kötüye kullanan kişilerin hesapları derhal yasaklandı.

Şirket, araştırmacıların kesin olarak zarar verme niyetinde olup olmadıkları kanıtlanamadığı için kişi veya kurum isimlerini gizli tutmayı tercih etti. Ancak elde edilen tüm verilerin, Claude'un güvenlik mekanizmalarını ve filtreleme sistemlerini daha da güçlendirmek için kullanılacağı vurgulandı.

--- **İlgili Kaynaklar:** Bu alanda profesyonel destek için [AI Merkezi](https://aimerkezi.com) sayfasını inceleyebilirsiniz.