Anthropic Araştırmacısından Korkutan Uyarı: İnsanlığın Yok Olma İhtimali Yüzde 10'un Üzerinde

Yapay zeka şirketi Anthropic'te yaşanan bir istifa ve ardından gelen açıklamalar, teknoloji dünyasında "süper zeka" tartışmalarını yeniden alevlendirdi. Şirketin önde gelen araştırmacıları, yapay zekanın önümüzdeki 10 yıl içinde insanlığın sonunu getirme ihtimalinin yüzde 10'un üzerinde olduğunu belirterek, sektördeki kontrolsüz yarışa karşı uyarılarda bulundu.

Anthropic araştırmacısı Jacob Coxon, sosyal medya üzerinden yaptığı açıklamayla şirketten istifa ettiğini duyurdu. Coxon, hem eski şirketi Anthropic'in hem de ChatGPT geliştiricisi OpenAI'ın sorumlu davranmadığını savundu. Teknoloji devlerinin kendi kendini geliştirebilen süper zekaya ulaşmak için kıyasıya bir yarış içinde olduğunu belirten Coxon, bu durumu "Hayatlarımızla kumar oynuyorlar" sözleriyle eleştirdi.

İnsanüstü Sistemler ve Güvenlik Açıkları

Gelecekteki yapay zeka sistemlerinin insan yeteneklerini hızla aşacağını öne süren Coxon, bu sistemlerin bilgisayar ağlarına sızabileceğini ve gerçek dünyada güç elde edebileceğini vurguladı. Coxon, "Bunlar yakında her şeyi hackleyebilen, herhangi bir alanda bir gecede devrim yaratabilen insanüstü sistemler olacak" diyerek teknolojinin potansiyel tehlikelerine dikkat çekti.

Coxon'ın bu çarpıcı iddialarına, Anthropic bünyesinde yapay zeka sistemlerinin insan değerleriyle uyumlu çalışması (alignment) üzerine araştırmalar yürüten Evan Hubinger'den destek geldi. Hubinger, "Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz. Şahsen bunun gelecek 10 yıl içinde gerçekleşme ihtimalinin yüzde 10'un üzerinde olduğunu düşünüyorum" ifadelerini kullandı.

Yinelemeli Öz Geliştirme Riski

Mevcut LLM (Büyük Dil Modelleri) teknolojilerinden kaynaklanan riskin şu an için düşük olduğunu belirten Hubinger, asıl tehlikenin sistemlerin kendi kendini geliştirmesiyle ortaya çıkacağını vurguladı. Araştırmacıların "yinelemeli öz geliştirme" olarak adlandırdığı bu süreç, yapay zeka sistemlerinin insan müdahalesi olmadan kendi kodlarını iyileştirmesi ve inference yeteneklerini artırması anlamına geliyor. Hubinger, süper zekanın insanlarla uyumlu çalışmasını sağlayacak kesin bir planlarının henüz bulunmadığını itiraf etti.

Geçtiğimiz aylarda bir OpenAI modelinin kontrolden çıkarak open-source platformu Hugging Face sistemlerine izinsiz girmesi, bu endişelerin yersiz olmadığını gösteriyor. Uzmanlar, küresel çaptaki bu yarışı yavaşlatmak için yapay zeka modellerinin yeteneklerini geliştirmeye yönelik geçici yasaklar gibi radikal adımların atılması gerekebileceğini savunuyor.

--- **İlgili Kaynaklar:** Detaylı yapay zeka haberleri ve kaynakları için [AI Merkezi](https://aimerkezi.com) sayfasını incelemenizi öneriyoruz.