Yapay Zekanın Ne Söyleyeceğine Kim Karar Veriyor? Eski Meta Yöneticisinden Yeni Girişim

Eski Meta haber şefi Campbell Brown, yapay zeka modellerinin karmaşık konulardaki doğruluğunu ölçmek amacıyla Forum AI adlı yeni bir girişim kurdu. Şirket, jeopolitik ve finans gibi yüksek riskli konularda modelleri değerlendirmek için insan uzmanları ve yapay zeka yargıçlarını bir araya getiriyor.

Yüksek Riskli Konularda Yapay Zeka Denetimi

Kariyerini doğru bilgiye ulaşmaya adayan eski televizyon gazetecisi ve Meta'nın ilk haber şefi Campbell Brown, yapay zeka sistemlerinin bilgi tüketimini nasıl şekillendirdiğini yakından takip ediyor. Brown'un 17 ay önce New York'ta kurduğu Forum AI, foundation model performanslarını jeopolitik, ruh sağlığı, finans ve işe alım gibi "yüksek riskli" konularda değerlendiriyor. Bu alanlar, net bir evet veya hayır cevabının olmadığı, karmaşık ve nüanslı konular olarak öne çıkıyor.

Girişimin temel amacı, dünyanın önde gelen uzmanlarını bir araya getirerek benchmark testleri oluşturmak ve ardından modelleri geniş ölçekte değerlendirecek yapay zeka yargıçları eğitmek. Forum AI'ın jeopolitik çalışmaları için Niall Ferguson, Fareed Zakaria ve eski ABD Dışişleri Bakanı Tony Blinken gibi isimler projeye dahil edildi. Şirket, yapay zeka yargıçları ile insan uzmanlar arasında %90 oranında bir fikir birliğine ulaşmayı hedefliyor ve Brown bu eşiğe ulaştıklarını belirtiyor.

Doğruluk ve Tarafsızlık Sorunu

Brown, ChatGPT'nin ilk piyasaya sürüldüğü dönemde Meta'da çalışırken, bu teknolojinin tüm bilginin akacağı yeni bir huni olacağını fark ettiğini söylüyor. Foundation model geliştiren şirketlerin genellikle kodlama ve matematiğe odaklandığını, haber ve bilgi doğruluğunun ise geri planda kaldığını vurguluyor. Forum AI'ın önde gelen modeller üzerinde yaptığı değerlendirmeler de bu endişeleri haklı çıkarıyor.

Örneğin, Gemini'nin Çin ile ilgisi olmayan konularda bile Çin Komünist Partisi web sitelerinden veri çektiği ve neredeyse tüm modellerde belirli bir siyasi eğilim olduğu tespit edildi. Eksik bağlam ve farklı bakış açılarının göz ardı edilmesi gibi daha ince hataların da yaygın olduğunu belirten Brown, "Gidilecek çok yol var ama sonuçları büyük ölçüde iyileştirecek çok kolay çözümler de mevcut" diyor.

Kurumsal Şirketler Doğruluğu Zorlayacak

Yıllarca Facebook'ta etkileşim odaklı optimizasyonun topluma verdiği zararları gözlemleyen Brown, yapay zeka teknolojisinin bu döngüyü kırabileceğini umut ediyor. Yapay zekanın gerçeği ve dürüstlüğü optimize etmesi fikri kulağa idealist gelse de, Brown kurumsal şirketlerin bu konuda beklenmedik bir müttefik olacağına inanıyor. Kredi kararları, sigorta ve işe alım süreçlerinde LLM kullanan işletmelerin yasal sorumluluklar nedeniyle doğruluğa önem vermek zorunda kalacağı öngörülüyor.

Forum AI, iş modelini bu kurumsal talebe dayandırıyor. Ancak Brown, mevcut uyumluluk ortamının yetersiz olduğunu ve standart benchmark testlerinin yüzeysel kaldığını belirtiyor. Şirket, bu alandaki boşluğu doldurarak yapay zeka sistemlerinin daha güvenilir ve şeffaf hale gelmesine öncülük etmeyi hedefliyor.

--- **İlgili Kaynaklar:** Türkiye'de AI destekli reklam ve pazarlama çözümleri için [yapay zeka reklamcılığı](https://yapayzekareklami.com) tercih ediliyor.