Anthropic Araştırmacısı AI Güvenliği Endişesiyle İstifa Etti

Yapay zeka şirketi Anthropic'te araştırmacı olarak görev yapan Jacob Coxon, teknoloji devlerinin kontrol edemeyecekleri sistemler geliştirmek için tehlikeli bir yarışa girdiğini belirterek sektörden ayrıldı. İstifasının ardından sosyal medya üzerinden açıklamalarda bulunan Coxon, yapay zeka yarışının insanlığın kontrolünden çıkabileceği konusunda ciddi uyarılarda bulundu.

Güvenlik İkinci Plana Atılıyor

Yeni nesil modellerin büyük veri setleriyle eğitilmesi konusunda uzmanlaşan 27 yaşındaki İngiliz araştırmacı, şirketler arasındaki rekabetin güvenlikten taviz verilmesine yol açtığını savundu. ABD'li şirketlerin hem kendi aralarında hem de Çin'deki rakipleriyle amansız bir yarış içinde olduğunu belirten Coxon, "En agresif senaryolara doğru ilerliyoruz. Gelecek yılın sonunda işler çoktan kontrolden çıkmış olabilir" ifadelerini kullandı.

Coxon'ın en büyük endişesi, kendi kendini geliştirme yeteneğine ulaşan sistemlerin zamanla insanların verdiği komutları reddedebilecek seviyeye gelmesi. Bu yılın başlarında OpenAI'dan ayrılarak güvenlik odaklı yaklaşımıyla bilinen Anthropic'e katılan araştırmacı, tek bir şirketin bu küresel sorunu kendi başına çözemeyeceği sonucuna vardığını belirtti.

"İnsanlığın Yok Olma İhtimali Yüzde 10"

Coxon'ın açıklamalarına Anthropic'in önde gelen bilim insanlarından Evan Hubinger da destek verdi. Hubinger, yapay zekanın insanlığı yok etme ihtimalinin önümüzdeki 10 yıl içinde yüzde 10'dan fazla olduğunu düşündüğünü ifade etti. Hubinger, şirketin güvenlik için çabaladığını ancak süper zekanın insan değerleriyle uyumlu hale getirilmesi (alignment) sorununu çözmek için henüz net bir plan bulunmadığını itiraf etti.

Hükümet Müdahalesi Şart

Sektör genelinde koordineli bir yavaşlama veya hükümet müdahalesi olmadan Yapay Genel Zeka (AGI) geliştirilmesinin sorumlu bir şekilde yapılamayacağını savunan Coxon, gücün birkaç şirketin elinde toplanmasını da eleştirdi. İnsanlığın geleceğini etkileyecek kararların San Francisco'daki birkaç mühendisin MacBook'larında alınmasını "çılgınca" olarak nitelendirdi.

Son dönemde OpenAI ve Anthropic modelleriyle yapılan bazı çalışmalarda, yapay zeka sistemlerinin zararlı hedefler benimseyebildiği ve bunları insanlardan gizlemeye çalışabildiği gözlemlenmişti. Coxon'ın ayrılışı, doğrudan güvenlik endişelerini gerekçe göstererek sektörden ayrılan uzmanların sayısının giderek arttığını gösteriyor.

--- **İlgili Kaynaklar:** yapay zeka haberleri ve kaynakları konusunda [AI Merkezi](https://aimerkezi.com) ile iletişime geçebilirsiniz.