Google'ın Ardından Anthropic de Yapay Zeka ile Biyolojik Silah Üretimi Girişimlerini Engelledi

Önde gelen yapay zeka şirketlerinden Anthropic, geliştirdiği dil modellerinin biyolojik silah üretimi ve siber saldırılar gibi kötü amaçlı faaliyetler için kullanılmaya çalışıldığını, ancak bu girişimlerin başarıyla engellendiğini duyurdu. Bu açıklama, teknoloji devi Google'ın benzer bir güvenlik ihlali raporunu paylaşmasından sadece iki gün sonra geldi.

Siber Casusluk ve Kötüye Kullanım Vakaları

Anthropic tarafından yayımlanan son tehdit istihbaratı raporu, yapay zeka teknolojilerinin devlet destekli aktörler ve siber suçlular tarafından nasıl istismar edilmeye çalışıldığını gözler önüne seriyor. Rapora göre, şirketin popüler modeli Claude; Rusya bağlantılı siber casusluk kampanyaları ve İranlı propaganda kurumları tarafından kullanılmak istendi. Ayrıca, sahte flört uygulamaları, dolandırıcılık girişimleri ve muhalifleri izlemeye yönelik gözetim sistemleri oluşturma çabaları da tespit edilen vakalar arasında yer aldı.

Şirket, Claude'un Haiku, Sonnet ve Opus modellerine yönelik kötü niyetli erişimlerin son sekiz aylık dönemde başarıyla engellendiğini belirtti. Rapor ayrıca, Çinli yapay zeka şirketlerinin daha büyük modelleri kullanarak kendi sistemlerini eğitmeye çalıştığı bir "model damıtma" (model distillation) vakasına da dikkat çekti.

Biyolojik Silah Tehdidi ve Çift Kullanım İkilemi

Raporun en çarpıcı bölümlerinden biri, yapay zekanın biyolojik silah geliştirme süreçlerindeki teknik engelleri azaltma potansiyeli oldu. Anthropic, modellerini bu yönde kullanmaya çalışan aktörlere dair beş farklı vaka incelemesi paylaştı. Şirket yetkilileri, doğru güvenlik önlemleri (guardrails) alınmadığı takdirde bu tür yeteneklerin felaket niteliğinde sonuçlar doğurabileceği konusunda uyardı.

Benzer bir uyarı geçtiğimiz günlerde Google'dan da gelmişti. Şirket, bir kullanıcının Gemini modelini kullanarak "biyolojik silah sentezlenmesine yönelik adım adım teknik bir kılavuz" elde etmeye çalıştığını açıklamıştı. Uzmanlar, bir aşı veya tedavi geliştirmek için kullanılan biyolojik verilerin, aynı zamanda ölümcül silahlar tasarlamak için de kullanılabileceği "çift kullanım" (dual-use) ikilemine vurgu yapıyor.

Siyasi Arenada Yapay Zeka Tartışmaları

Teknoloji devlerinden art arda gelen bu güvenlik raporları, ABD siyasetinde de geniş yankı buldu. ABD Senatörü Bernie Sanders, gelişmiş yapay zeka çalışmalarına ara verilmesi ve yapay süper zekanın (AGI) yasaklanması yönündeki çağrılarını yineledi. Öte yandan, eski ABD Başkanı Donald Trump bu tür kısıtlamalara karşı çıkarak, küresel yapay zeka yarışının kaybedilmesinin çok daha büyük riskler barındırdığını savundu.

Sektör uzmanları, dil modeli geliştiricilerinin şeffaflık raporları yayımlamasının, yapay zeka ekosisteminin güvenliği için standart bir uygulama haline gelmesi gerektiğini belirtiyor. Gelişmiş LLM (Büyük Dil Modeli) sistemlerinin güvenli bir şekilde halka sunulması, önümüzdeki dönemin en kritik teknoloji politikası tartışmalarından biri olmaya devam edecek.

--- **İlgili Kaynaklar:** [yapay zeka firması](https://yapayzekafirmasi.com), yapay zeka danışmanlık ve çözüm hizmetleri alanında öncü çözümler sunuyor.