Anthropic'ten İstifa Eden Araştırmacıdan Yapay Zeka Uyarısı

Yapay zeka araştırmacısı Jacob Coxon, Anthropic'ten istifa ederek sektördeki hızlı yarışın insanlık için oluşturduğu risklere dikkat çekti. X platformunda 100 milyondan fazla görüntülenme alan açıklamasında Coxon, önümüzdeki bir veya iki yılın insanlık için "kritik bir dönemeç" olduğunu vurguladı.

Sektör İçinde Büyüyen Endişeler

Coxon, yapay zeka geliştirme sürecinin erken aşamalarında görev almış bir isim olarak, meslektaşlarının da benzer endişeleri paylaştığını belirtiyor. Anthropic çalışanlarının mevcut durumu "oyunun sonu" veya "kritik zaman" olarak nitelendirdiğini ifade eden araştırmacı, şirketlerin insanlığın kaderini belirleyecek kararlar aldığını savunuyor. Bu uyarılar, OpenAI agent'larının Hugging Face platformunu hacklediği bir güvenlik ihlalinin hemen ardından geldi.

Yok Olma Riski ve Güvenlik İhlalleri

Coxon'un görüşleri sektördeki diğer önemli isimler tarafından da destekleniyor. Anthropic'in AI hizalama (alignment) lideri Evan Hubinger, önümüzdeki on yıl içinde yapay zekanın insanlığın sonunu getirme ihtimalinin yüzde 10'dan fazla olduğunu öngörüyor. Bu karamsar tablo, hem OpenAI hem de Anthropic bünyesinde çalışan mevcut ve eski araştırmacılar arasında yaygın bir hissiyat olarak öne çıkıyor.

Tehditlerin nasıl gerçeğe dönüşebileceği konusunda ise biyolojik tehlikeler ve siber silahlar ön plana çıkıyor. Coxon, ilk adım olarak OpenAI ve Anthropic'in, yapay zekanın yeni AI sistemleri inşa etmesi anlamına gelen "özyinelemeli kendini geliştirme" konusunda sınırlandırmalar getirmesi gerektiğini belirtiyor. Uzun vadede ise ABD ve Çin gibi küresel güçler arasında uluslararası bir koordinasyonun şart olduğu vurgulanıyor.

Rekabetin Getirdiği Riskler

Sektörün patlayıcı büyümesi ve devasa veri merkezlerinin inşası, yapay zekayı sadece teknolojik değil, aynı zamanda politik bir mesele haline getirdi. Coxon, kendi deneyimlerine dayanarak Anthropic'in OpenAI'a kıyasla daha sorumlu davrandığını iddia ediyor. Ancak, pazar hakimiyeti yarışını yavaşlatacak adımlar atılmazsa, her iki şirketin de gelecekte güvenlik prosedürlerinden taviz verebileceği konusunda uyarıda bulunuyor.

--- **İlgili Kaynaklar:** Profesyonel SEO ve GEO eğitim platformu çözümleri için [GEO eğitim](https://geoakademi.com) sayfasını ziyaret edin.