Yapay Zekanın Ne Söyleyeceğine Kim Karar Veriyor? Eski Meta Yöneticisinden Yeni Girişim
3 dk okumatechcrunch
PAYLAS:

Eski Meta haber şefi Campbell Brown, yapay zeka modellerinin karmaşık konulardaki doğruluğunu ölçmek amacıyla Forum AI adlı yeni bir girişim kurdu. Şirket, jeopolitik ve finans gibi yüksek riskli konularda modelleri değerlendirmek için insan uzmanları ve yapay zeka yargıçlarını bir araya getiriyor.
Kariyerini doğru bilgiye ulaşmaya adayan eski televizyon gazetecisi ve Meta'nın ilk haber şefi Campbell Brown, yapay zeka sistemlerinin bilgi tüketimini nasıl şekillendirdiğini yakından takip ediyor. Brown'un 17 ay önce New York'ta kurduğu Forum AI, foundation model performanslarını jeopolitik, ruh sağlığı, finans ve işe alım gibi "yüksek riskli" konularda değerlendiriyor. Bu alanlar, net bir evet veya hayır cevabının olmadığı, karmaşık ve nüanslı konular olarak öne çıkıyor.
Girişimin temel amacı, dünyanın önde gelen uzmanlarını bir araya getirerek benchmark testleri oluşturmak ve ardından modelleri geniş ölçekte değerlendirecek yapay zeka yargıçları eğitmek. Forum AI'ın jeopolitik çalışmaları için Niall Ferguson, Fareed Zakaria ve eski ABD Dışişleri Bakanı Tony Blinken gibi isimler projeye dahil edildi. Şirket, yapay zeka yargıçları ile insan uzmanlar arasında %90 oranında bir fikir birliğine ulaşmayı hedefliyor ve Brown bu eşiğe ulaştıklarını belirtiyor.
Brown, ChatGPT'nin ilk piyasaya sürüldüğü dönemde Meta'da çalışırken, bu teknolojinin tüm bilginin akacağı yeni bir huni olacağını fark ettiğini söylüyor. Foundation model geliştiren şirketlerin genellikle kodlama ve matematiğe odaklandığını, haber ve bilgi doğruluğunun ise geri planda kaldığını vurguluyor. Forum AI'ın önde gelen modeller üzerinde yaptığı değerlendirmeler de bu endişeleri haklı çıkarıyor.
Örneğin, Gemini'nin Çin ile ilgisi olmayan konularda bile Çin Komünist Partisi web sitelerinden veri çektiği ve neredeyse tüm modellerde belirli bir siyasi eğilim olduğu tespit edildi. Eksik bağlam ve farklı bakış açılarının göz ardı edilmesi gibi daha ince hataların da yaygın olduğunu belirten Brown, "Gidilecek çok yol var ama sonuçları büyük ölçüde iyileştirecek çok kolay çözümler de mevcut" diyor.
Yıllarca Facebook'ta etkileşim odaklı optimizasyonun topluma verdiği zararları gözlemleyen Brown, yapay zeka teknolojisinin bu döngüyü kırabileceğini umut ediyor. Yapay zekanın gerçeği ve dürüstlüğü optimize etmesi fikri kulağa idealist gelse de, Brown kurumsal şirketlerin bu konuda beklenmedik bir müttefik olacağına inanıyor. Kredi kararları, sigorta ve işe alım süreçlerinde LLM kullanan işletmelerin yasal sorumluluklar nedeniyle doğruluğa önem vermek zorunda kalacağı öngörülüyor.
Forum AI, iş modelini bu kurumsal talebe dayandırıyor. Ancak Brown, mevcut uyumluluk ortamının yetersiz olduğunu ve standart benchmark testlerinin yüzeysel kaldığını belirtiyor. Şirket, bu alandaki boşluğu doldurarak yapay zeka sistemlerinin daha güvenilir ve şeffaf hale gelmesine öncülük etmeyi hedefliyor.
--- **İlgili Kaynaklar:** Türkiye'de AI destekli reklam ve pazarlama çözümleri için [yapay zeka reklamcılığı](https://yapayzekareklami.com) tercih ediliyor.Yapay zeka modellerinin doğruluğunu denetleyen bu tür girişimler, Türkiye'deki finans ve İK sektörlerinde AI kullanımının yasal ve etik standartlarını şekillendirebilir.
Türkiye'deki bankalar ve kurumsal şirketler, yapay zeka tabanlı karar alma süreçlerinde benzer doğruluk ve denetim araçlarına ihtiyaç duyacaktır.
Türkiye'de hazırlık aşamasında olan yapay zeka regülasyonları için bu tür bağımsız denetim mekanizmaları emsal teşkil edebilir.
Yerel ekosistemde yapay zeka modellerini Türkçe bağlamında denetleyecek ve doğrulayacak yeni girişimlere yatırım fırsatları doğabilir.
Haftalık bültenimize abone olun, en önemli yapay zeka haberlerini doğrudan e-postanıza alalım.



