Anthropic Güvenlik Araştırmacısı: Yapay Zekanın İnsanlığı Yok Etme İhtimali %10'un Üzerinde

Önde gelen yapay zeka şirketlerinden Anthropic'in güvenlik araştırmacısı Evan Hubinger, teknolojinin gelişim hızına dikkat çekerek önümüzdeki on yıl içinde yapay zekanın insanlığı yok etme ihtimalinin %10'un üzerinde olduğunu öne sürdü. Bu açıklama, sektördeki dev şirketlerin süper zeka geliştirme yarışında yeterli güvenlik önlemlerini almadığına dair artan endişelerin ortasında geldi.

Varoluşsal Risk ve Şirketlerin Sorumluluğu

Anthropic güvenlik araştırmacısı Evan Hubinger, X platformunda yaptığı bir paylaşımda, mevcut modellerin yarattığı riskin düşük olduğunu ancak teknolojinin hızla gelişerek kendi kendini iyileştirebilme kapasitesinin insanlık için varoluşsal bir tehdit oluşturabileceğini belirtti. Hubinger'in bu açıklaması, daha önce OpenAI ve Anthropic'te çalışmış olan Jacob Coxon'ın eleştirilerine bir yanıt niteliği taşıyor.

Coxon, her iki şirketin de sorumlu davranmadığını savunarak, yakın gelecekte her şeyi hackleyebilen ve herhangi bir alanda bir gecede devrim yaratabilecek insanüstü sistemlerin ortaya çıkacağı konusunda uyardı. Hubinger ise yapay zeka sistemlerinin insanlığı nasıl yok edebileceğine dair teknik detaylara girmese de, bu riske yürekten inandığını ifade etti.

Güvenlik Enstitüsünden Model Gizleme İddiası

Sektördeki güvenlik tartışmaları sürerken, Financial Times gazetesi Anthropic'in en son modelini İngiltere Yapay Zeka Güvenliği Enstitüsü'nden (AISI) gizlediğini iddia etti. İngiltere hükümet sözcüleri bu iddiayı doğrudan doğrulamaktan kaçınırken, modelleri daha güvenli hale getirmek için endüstri ortaklarıyla çalışmaya devam ettiklerini vurguladı.

Cambridge Üniversitesi'nden Makine Öğrenimi Profesörü Neil Lawrence, bu gizleme kararının şaşırtıcı olmadığını belirtti. Lawrence, ABD'nin yapay zeka yarışını Çin ile arasında stratejik bir rekabet olarak gördüğünü ve yönetimin müttefiklerle işbirliğini azaltma yönünde izolasyonist adımlar atabileceğini öne sürdü.

Yapay Zeka Uyumu ve Siber Güvenlik Endişeleri

İnsan etik değerlerini teknolojiye entegre etmeyi amaçlayan yapay zeka uyumu alanında çalışan Hubinger, süper zeka için uyum sorununu çözecek net bir planlarının olmadığını itiraf etti. Birçok araştırmacı, bu uyum girişimlerinin şu an için yetersiz kaldığını düşünüyor. Nitekim bu yaz, otonom olarak çalışan agent sistemlerinin siber saldırılar gerçekleştirdiği çeşitli vakalar rapor edildi.

OpenAI, Anthropic ve Meta gibi dev şirketler, kendi yapay zeka araçları tarafından gerçekleştirilen bu tür güvenlik ihlallerini kabul etmiş durumda. Anthropic'in son güvenlik raporlarında, son derece yetenekli modellerin otomatik araştırma ve geliştirme yapabilme kapasitesinin, gelecekte felaket niteliğinde zararlara yol açma potansiyeli taşıdığı uyarısına yer veriliyor.

--- **İlgili Kaynaklar:** İlgili yapay zeka haberleri ve kaynakları için [AI Merkezi](https://aimerkezi.com) platformuna göz atabilirsiniz.