Claude Kullanıcıları Biyolojik Silah İçin Güvenliği Aştı

Anthropic, yapay zeka modeli Claude'un biyolojik silah araştırmalarında kullanılmasını engellemek için bu yıl birden fazla girişimi durdurduğunu açıkladı. Şirket, aralarında Rusya, Çin ve İran'ın da bulunduğu yasaklı bölgelerden gelen kullanıcıların güvenlik önlemlerini aşmaya çalıştığını belirtti. Bu gelişme, yapay zekanın kamu güvenliğine yönelik oluşturduğu tehditlere dair endişeleri yeniden alevlendirdi.

Güvenlik Filtreleri ve Biyolojik Tehditler

Anthropic tarafından yayımlanan rapora göre, kötü niyetli aktörler araştırmalarının gerçek amacını gizlemek ve kontrolleri atlatmak için çeşitli yöntemler denedi. Şirket, desteklenmeyen bir bölgeden gelen bir araştırmacının, Claude kullanarak kuş gribi ile ilgili deneyler planlamak için haftalar harcadığını örnek gösterdi. Ancak Anthropic, güvenlik filtrelerinin bu tür çalışmaları en zayıf modellere yönlendirerek kısıtladığını vurguladı.

Şirket, örneklerdeki bilim insanlarının zarar verme niyeti taşıdığından kesin olarak emin olunamayacağını da belirtti. Biyolojik silah oluşturmak için gereken yapay zeka verilerinin, aynı zamanda aşı geliştirmek için de kullanılabileceğine dikkat çekildi. Raporda adı geçen hesaplar yasaklanırken, araştırma kurumlarının veya ülkelerin isimleri gizli tutuldu.

Yapay Zeka Güvenliği Tartışmaları Büyüyor

Bu olaylar, sektördeki güvenlik tartışmalarının zirve yaptığı bir döneme denk geldi. Kısa süre önce Anthropic çalışanı Jacob Coxon, yapay zekanın on yılın sonuna kadar insanlığı yok edebileceğine inandığını belirterek istifa etmişti. Ayrıca, OpenAI'ın modellerinin Temmuz ayında otonom olarak Hugging Face platformuna sızdığını açıklaması da endişeleri artırmıştı.

Yapay zeka yöneticileri ve biyogüvenlik araştırmacıları, modeller geliştikçe biyoloji alanındaki kullanımların denetlenmesi gerektiği konusunda hemfikir. Uzmanlar, terör örgütlerinin veya devlet destekli aktörlerin virüs yaratmak için bu teknolojileri kullanmasından korkuyor. Ancak teorik olarak bir biyolojik silah tasarlanabilse de, bunu pratikte üretmek için gereken kaynaklar hala büyük bir engel teşkil ediyor.

Siber Güvenlik ve Model Kopyalama Girişimleri

Biyolojik tehditlerin yanı sıra siber güvenlik de büyük bir endişe kaynağı olmaya devam ediyor. Anthropic'in raporunda, kullanıcıları dolandırmak için kurulan sahte flört uygulaması ağlarından, muhalifleri izlemek için oluşturulan gözetim sistemlerine kadar çeşitli kötüye kullanım vakaları detaylandırıldı.

Laboratuvar ayrıca, Moonshot ve DeepSeek dahil olmak üzere Çin merkezli yedi laboratuvarın, distillation olarak bilinen bir süreçle kendi teknolojilerini kopyalamaya çalıştığını iddia etti. Anthropic, ABD'nin öncü modellerinin yeteneklerini ele geçirmek için giderek daha karmaşık yöntemler tespit ettiklerini açıkladı.

--- **İlgili Kaynaklar:** yapay zeka haberleri ve kaynakları konusunda [AI Merkezi](https://aimerkezi.com) ile iletişime geçebilirsiniz.