Meta'nın Reklam Sisteminde Yapay Zeka Destekli İstismar Skandalı

Meta'nın reklam onay sistemindeki ciddi bir zafiyet, Facebook ve Instagram'da çocuk istismarı içeren yapay zeka reklamlarının yayınlanmasına neden oldu. Tech Transparency Project (TTP) tarafından yapılan araştırmaya göre, gerçek çocukların fotoğraflarını manipüle eden yüzlerce reklam, platformun güvenlik filtrelerini aşmayı başardı.

Yapay Zeka ile Manipüle Edilen Gerçek Fotoğraflar

TTP'nin yayımladığı rapora göre, bu yıl içinde çocuk cinsel istismarı materyali (CSAM) içeren 332 reklam tespit edildi. Bu reklamların büyük çoğunluğunun Çin merkezli yapay zeka uygulamalarını tanıttığı belirtiliyor. Kötü niyetli kişilerin çocukların görüntülerini dijital olarak değiştirmesini kolaylaştıran "nudify" (soyunma) uygulamaları, Meta platformlarında açıkça pazarlandı.

Araştırmacılar, reklamlardaki görüntüleri internette yer alan gerçek çocuk fotoğraflarıyla eşleştirdi. Mağdurlar arasında Avrupalı bir kraliyet ailesi üyesi ve 14 yaşındaki bir Instagram fenomeni de bulunuyor. ABD Adalet Bakanlığı, yapay zeka ile üretilen istismar materyallerinin gerçekleri kadar zararlı olduğunu vurgularken, bu reklamların federal yasaları ihlal ettiği düşünülüyor.

Meta'nın Güvenlik Sistemleri Sorgulanıyor

TTP, Ağustos ayında Wired dergisi ile işbirliği yaparak 53 reklamı Meta'ya bildirmişti. Şirket o dönemde çocuk istismarını tespit etmek için yeni sistemler devreye aldığını iddia etse de, bu açıklamadan sonra yüzlerce yeni reklamın yayınlanmaya devam ettiği ortaya çıktı. Reklam metinlerinde kullanıcıları tıklamaya teşvik eden rahatsız edici ifadeler ve "gerçek insanların kullanıldığına" dair vaatler yer aldı.

Sorun sadece çocuklarla sınırlı kalmıyor. Wired'ın bağımsız analizine göre, yetişkinlerin rızası olmadan oluşturulan yüzlerce benzer "nudification" reklamı da platformda yer buldu. Campaign for Accountability İcra Direktörü Michelle Kuppersmith, Meta'nın reklam onay sürecinin bu kadar bariz içerikleri bile tespit edememesinin, tüm inceleme sisteminin sorgulanmasını gerektirdiğini belirtti.

Geciken Müdahaleler ve Eksik Raporlama

Meta, TTP ve Wired tarafından işaretlenen reklamları kaldırmış olsa da, müdahale hızındaki yavaşlık eleştirilere neden oldu. TTP'nin 300'den fazla reklamı bildirmesinin ardından, şirket reklamların yaklaşık yarısını arşivinden hızla sildi. Ancak birçok reklamın başlangıçta çocuk istismarı politikası ihlali olarak işaretlenmemesi dikkat çekti.

TTP, bu açıklanamayan eksikliğin Meta'nın çocuk istismarı vakalarını eksik saydığına işaret edebileceği konusunda uyardı. İlk bildirimin ardından geçen günlerde bile bazı reklamların yayınlanmaya devam etmesi, platformun siber güvenlik ve içerik moderasyonu konusundaki zafiyetlerini gözler önüne seriyor.

--- **İlgili Kaynaklar:** yapay zeka danışmanlık ve çözüm hizmetleri ihtiyaçlarınız için [yapay zeka firması](https://yapayzekafirmasi.com) doğru adres.