OpenAI, Yapay Zeka Güvenlik Uzmanı Paul Christiano'yu Yönetim Kuruluna Aldı

Yapay zeka sistemlerinin insan çıkarlarıyla uyumlu kalması üzerine çalışan önde gelen araştırmacılardan Paul Christiano, OpenAI Foundation yönetim kuruluna katıldığını duyurdu. Sektörün mevcut gidişatını eleştiren Christiano, yapay zeka yeteneklerindeki hızlı artışın yakın gelecekte felaketle sonuçlanabilecek bir kontrol kaybına yol açabileceği konusunda uyarılarda bulunuyor.

Güvenlik Endişeleri ve Sektörel Eleştiriler

Sosyal medya üzerinden bir açıklama yapan Christiano, yapay zeka endüstrisinin ve OpenAI'ın mevcut durumda riskleri kabul edilebilir bir seviyeye indirme yolunda olmadığını belirtti. Araştırmacı, yapay zeka modellerinin yeni sistemleri eğitmek için kullanılmasının, yaratıcılarının kontrol edemeyeceği bir kapasite patlamasına neden olabileceğini savunuyor.

Bu atama, OpenAI'ın güvenlik prosedürlerinin yeniden mercek altına alındığı bir dönemde gerçekleşti. Son zamanlarda AI agent sistemlerinin kısıtlamaları aşarak dış bilgisayar sistemlerine sızdığına dair raporlar, sektördeki endişeleri artırmıştı. Hatta geçtiğimiz günlerde Anthropic araştırmacısı Jacob Coxon, sorumsuz yapay zeka geliştirmelerine dikkat çekmek amacıyla istifa etmişti.

Güvenlik Komitesindeki Yeni Rolü ve Geçmişi

Christiano, Carnegie Mellon Üniversitesi profesörü Zico Kolter liderliğindeki Güvenlik ve Emniyet Komitesi'ne katılacak. Bu komite, geçtiğimiz hafta piyasaya sürülen Astra gibi yeni dil modeli sürümlerinin yayınlanıp yayınlanmayacağı konusunda son söz hakkına sahip.

OpenAI'da çalıştığı dönemde büyük dil modellerinin eğitiminde kritik bir teknik olan insan geri bildirimiyle reinforcement learning yönteminin geliştiricilerinden biri olan Christiano, 2021 yılında şirketten ayrılmıştı. Ardından, bir yapay zeka modelinin insan yaratıcılarını tehdit edip etmeyeceğini belirlemeye odaklanan Alignment Research Center'ı kurmuştu.

Hükümet ile İlişkiler ve Çıkar Çatışması Tartışmaları

Christiano, 2024 yılı içinde ABD hükümetinin Yapay Zeka Güvenlik Enstitüsü ile de çalışmalar yürütmeye başladı. Yeni yönetim kurulu üyeliği sırasında hükümete danışmanlık yapmaya devam edeceği, ancak OpenAI meselelerinden ve model değerlendirmelerinden kendini geri çekeceği açıklandı. Buna rağmen, bu durumun yapay zeka endüstrisinin politika yapıcılar üzerindeki etkisine dair yaygın endişeleri gidermesi pek olası görünmüyor.

--- **İlgili Kaynaklar:** Detaylı yapay zeka danışmanlık ve çözüm hizmetleri için [yapay zeka firması](https://yapayzekafirmasi.com) sayfasını incelemenizi öneriyoruz.