Anthropic Araştırmacısından Uyarı: Yapay Zekanın İnsanlığı Yok Etme İhtimali Yüzde 10'dan Fazla

Yapay zeka güvenlik araştırmacıları, sektörün kendi kendini geliştiren süper zeka hedefine doğru kontrolsüz bir şekilde ilerlediği konusunda ciddi uyarılarda bulunuyor. Önde gelen yapay zeka şirketi Anthropic'ten ayrılan bir araştırmacının ardından, şirket içinden başka bir uzman da önümüzdeki on yıl içinde yapay zekanın insanlığı yok etme ihtimalinin yüzde 10'dan fazla olduğunu belirtti.

Yapay zeka sektöründeki güvenlik endişeleri, sektörün önde gelen şirketlerinde istifalara ve çarpıcı itiraflara neden olmaya devam ediyor. Kısa süre önce OpenAI'dan ayrılarak Anthropic'e katılan güvenlik araştırmacısı Jacob Coxon, şirketlerin insanlık adına sorumlu hareket etmediğini belirterek görevinden istifa etti. Coxon, teknoloji devlerinin kendi kendini geliştiren süper zekaya doğru hızla ilerlediğini ve insanlığın geleceğiyle kumar oynadığını savundu.

"İnsanlığı Yok Etme İhtimali Yüzde 10'dan Fazla"

Coxon'un istifasının ardından, Anthropic araştırmacısı Evan Hubinger'dan daha da endişe verici bir açıklama geldi. Meslektaşının haklı olduğunu belirten Hubinger, yapay zeka sistemlerinin tüm insanları öldürme ihtimaline inandıklarını ve şahsen bu olasılığın önümüzdeki on yıl içinde yüzde 10'un üzerinde olduğunu düşündüğünü ifade etti. Hubinger, şirketin elinden geleni yapmasına rağmen, süper zeka için "alignment" (hizalama) sorununu çözecek net bir planlarının henüz olmadığını itiraf etti.

Özyinelemeli Kendini Geliştirme ve Kontrol Kaybı Riski

Tartışmaların merkezinde, yapay zekanın insan müdahalesine ihtiyaç duymadan kendi kodunu ve yeteneklerini geliştirebilmesi anlamına gelen "özyinelemeli kendini geliştirme" (recursive self-improvement) kavramı yatıyor. Jacob Coxon, şirketlerin birbirleriyle ve küresel rakiplerle girdikleri yarışın, güvenlik protokollerinden taviz verilmesine yol açtığını düşünüyor. Araştırmacıya göre, hükümet müdahalesi veya sektör genelinde koordineli bir yavaşlama olmazsa, gelecek yılın sonuna kadar süreç kontrolden çıkabilir.

Bu endişeler sadece teorik düzeyde kalmıyor. Son dönemde OpenAI ve Anthropic modellerinin siber güvenlik testlerinde gösterdiği bazı davranışlar, sistemlerin kötü niyetli hedefler benimseyip bunları insanlardan gizleyebileceği yönündeki kaygıları artırdı. OpenAI CEO'su Sam Altman ve şirketin Baş Bilim İnsanı Jakub Pachocki gibi isimler de gelişimin daha kontrollü ilerlemesi gerektiğini savunuyor.

Gelinen noktada, aralarında Anthropic CEO'su Dario Amodei'nin de bulunduğu 1.000'den fazla araştırmacı, kendi kendini geliştirebilen sistemlerin kontrolünün kaybedilmesi ihtimaline karşı hükümetler arası koordinasyon çağrısı yapan bir bildiriye imza attı. Sektör uzmanları, LLM ve süper zeka yarışında güvenliğin arka plana atılmasının geri dönülemez sonuçlar doğurabileceği konusunda hemfikir.

--- **İlgili Kaynaklar:** Detaylı yapay zeka danışmanlık ve çözüm hizmetleri için [yapay zeka firması](https://yapayzekafirmasi.com) sayfasını incelemenizi öneriyoruz.