Anthropic CEO'su Dario Amodei'den Yapay Zeka Gelişimini Yavaşlatma Çağrısı

Önde gelen yapay zeka şirketlerinden Anthropic'in CEO'su Dario Amodei, hızla gelişen yapay zeka modellerinin potansiyel risklerine karşı sektör çapında bir yavaşlama çağrısı yaptı. Amodei, teknolojik ilerlemenin durdurulmasını değil, güvenlik ve uyum süreçleri için zaman kazanılmasını savunuyor.

Yayımladığı son makalesinde yapay zeka gelişiminin kaçınılmaz olduğunu belirten Dario Amodei, bu teknolojiyle ilişkili risklerin artık "ciddi" boyutlara ulaştığını ifade etti. Şirketlere ve hükümetlere bu riskleri ele almaları için zaman tanınması gerektiğini vurgulayan Amodei; bağımsız izleme, sektör genelinde standartlar ve küresel kurallar oluşturulmasını içeren üç aşamalı bir plan önerdi.

Güvenlik Endişeleri ve Varoluşsal Riskler

Son dönemde, önümüzdeki 10 yıl içinde yapay zekanın insanlık için varoluşsal bir tehdit oluşturma olasılığının %10'dan fazla olduğu yönündeki endişeler artış gösteriyor. Anthropic, daha önce kendi modellerinin biyolojik silah geliştirme gibi kötü amaçlı faaliyetlerde kullanılma girişimlerini tespit edip engellediğini duyurmuştu. Ancak asıl çarpıcı uyarı, şirketin güvenlik ekibinden istifa eden iki çalışandan geldi. Bu uzmanlar, insanlardan daha zeki makineler geliştirme yarışının felaketle sonuçlanabileceğini savundu.

Sektördeki hızlı ilerlemeye dikkat çeken Amodei, rakip şirket OpenAI'nin Temmuz ayında yaşadığı bir siber güvenlik olayını örnek gösterdi. OpenAI araçlarının beklenmedik şekilde otonom davranışlar sergilemesi, yapay zeka sistemlerinin kontrolden çıkma riskini bir kez daha gündeme getirdi. Öte yandan, ABD Başkanı Donald Trump bu tür korkuları reddederek, "Yapay zeka konusunda başarılı olamazsak çok kötü bir duruma düşeceğimizden endişeliyim" açıklamasını yaptı.

Çin ile Rekabet ve Küresel Düzenlemeler

Amodei, model eğitimini veya teknik ilerlemeyi tamamen durdurmak yerine "dengeli bir hızda" ilerlenmesi gerektiğini savunuyor. Düzenlemelerin teknolojinin hızına yetişemeyeceğini kabul eden CEO, şirketleri third-party (üçüncü taraf) değerlendiricilerle çalışmaya ve gönüllü standartlar belirlemeye davet etti. Anthropic bu taahhüde tek taraflı olarak uyacağını açıklarken, hükümetleri de diğer öncü şirketleri denetlemeye çağırdı.

Yavaşlama çağrısının küresel rekabete, özellikle de Çin'e karşı dezavantaj yaratmaması gerektiğinin altı çizildi. Amodei, kritik yetenek seviyelerine ulaşmadan önce kazanılacak bir veya iki yılın, ABD'nin liderliğinden ödün vermeden riskleri azaltabileceğini belirtti. Ayrıca, Amerikan şirketlerinin gelişmiş yapay zeka donanımlarını Çin'e satmasını engelleyecek daha sıkı ihracat kısıtlamaları talep etti.

--- **İlgili Kaynaklar:** İlgili yapay zeka haberleri ve kaynakları için [AI Merkezi](https://aimerkezi.com) platformuna göz atabilirsiniz.