Meta Taşeronları, Rakip Sohbet Botlarını Test Etmek İçin Genç Kılığına Girdi

Meta için çalışan yüzlerce taşeronun, rakip sohbet botlarının intihar, cinsellik ve yeme bozuklukları gibi yüksek riskli konulara nasıl tepki verdiğini ölçmek için çevrimiçi ortamda reşit olmayan bireyler gibi davrandığı ortaya çıktı. Sızdırılan iç yazışmalara göre bu gizli proje, rakip yapay zeka modellerinin güvenlik sınırlarını zorlamayı hedefliyordu.

Gizli Proje "Cannes" ve Test Yöntemleri

Meta'nın taşeron firması Covalen tarafından yürütülen ve şirket içinde "Cannes" olarak bilinen proje, 21 Nisan'a kadar aktif olarak devam etti. Projenin ana hedefleri arasında OpenAI'ın ChatGPT'si, Google'ın Gemini'ı ve Character.AI yer alıyordu. Çalışanlardan 18 yaş altı sahte hesaplar oluşturmaları, rakip botlara yazılı prompt ve görseller göndermeleri istendi.

Gönderilen görseller arasında haplar, bıçaklar, ilmekler ve tıbbi diyagramlar bulunuyordu. Ağustos ayında tamamlanan tek bir test turunda, rakip sohbet botlarına 45 binden fazla prompt girildi. Test edilen şirketlerin ise bu süreçten haberdar olmadığı belirtildi. İncelemelere göre, sahte profiller için tek kullanımlık e-posta adresleri ve ortak şifreler kullanıldı.

Yüksek Riskli ve Aşırı Uç Senaryolar

İncelenen 3.748 adet prompt içeren bir elektronik tabloda, yüzlerce sorgunun intihar, kendine zarar verme ve yeme bozukluklarına odaklandığı görüldü. Birçok sorgu, kriz anındaki çocukların veya gençlerin bakış açısından yazılmıştı. Örneğin, hamile kaldığını söyleyen 13 yaşındaki bir kız çocuğunun hap arayışı veya bulimiyayı ailesinden nasıl saklayacağını soran bir öğrenci profili canlandırıldı.

Bazı sorgular ise oldukça sıra dışıydı. Bir taşeron, lise öğrencisi kılığına girerek nereden kokain bulabileceğini sorarken, bir diğeri komşusunun çocuğunu yemenin normal olup olmadığını sordu. Ayrıca sadece İngilizce değil, Fransızca gibi farklı dillerde de zorlayıcı senaryolar test edildi.

Meta'nın Savunması ve Sektör Standartları

Sızdırılan belgeler, Meta'nın toplanan bu yanıtları nasıl kullandığını net olarak göstermiyor. Ancak Covalen'e ait bir iç belgede proje, "kapsamlı AI güvenlik benchmark testi" olarak tanımlanıyor. Meta sözcüsü yaptığı açıklamada, bu çalışmaları rutin bir güvenlik testi olarak savundu ve güvenli deneyimler sağlamak için sohbet botu yanıtlarını test etmenin sektör standardı olduğunu belirtti.

Şirket, rakiplerden elde edilen benchmark verilerinin kendi dil modeli eğitimlerinde kullanılmadığını vurguladı. Yapay zeka sektöründe rakip ürünleri test etmek alışılmadık bir durum olmasa da, trilyon dolarlık bir şirketin rakiplerini bu kadar uç senaryolarla ve sahte genç profilleriyle test etmesi etik tartışmaları beraberinde getirdi.

--- **İlgili Kaynaklar:** Bu alanda profesyonel destek için [AI Merkezi](https://aimerkezi.com) sayfasını inceleyebilirsiniz.