Meta'da Kadın Siyasetçileri Hedef Alan Deepfake Reklam Skandalı

Meta platformlarında, kadın siyasetçileri hedef alarak rızasız yapay zeka destekli müstehcen içerikler üreten Kromix adlı bir uygulamanın reklamlarının yayınlandığı ortaya çıktı. WIRED'ın iletişime geçmesinin ardından hem Meta reklamları kaldırdı hem de Apple uygulamayı App Store'dan çıkardı.

App Store ve Rızasız İçerik Mücadelesi

Kromix adlı uygulama, ücretli kullanıcıların yükledikleri fotoğrafları çeşitli müstehcen senaryolara entegre etmelerine olanak tanıyordu. Apple, rızasız mahrem görüntüleri ve cinsel içerikleri yasaklayan politikalarına rağmen bu tür araçları App Store'dan uzak tutmakta zorlanıyor. Bu yazın başlarında San Francisco şehir savcısı, şirkete 13 belirli uygulamanın kaldırılmasını ve müstehcen deepfake görüntülerinin satışına yardım etmeyi durdurmasını talep eden bir ihtarname göndermişti.

Reklamlar Sadece Erkek Kullanıcıları Hedefledi

Meta'nın reklam kütüphanesine göre, söz konusu kampanyalar "Yeni nesil yapay zeka büyüsünü serbest bırakın" sloganıyla özel olarak erkek kullanıcıları hedefledi. Kampanyaya bağlı hesap toplam 32 reklam yayınladı ve bu reklamlar beş ila 46 saat arasında yayında kaldı. Çoğu reklam 10 veya daha az gösterim aldıktan sonra WIRED'ın durumu bildirmesiyle platformdan temizlendi.

Kadın Siyasetçiler Hedef Tahtasında

Reklamları keşfeden Tech Transparency Project direktörü Katie Paul, bu tür uygulamaların kadınları cinselleştirdiğini ve yapay zeka üretimi pornografik içeriklere maruz bıraktığını vurguladı. Paul, Meta'nın özellikle kadın siyasetçiler söz konusu olduğunda bu tür içeriklerle nasıl başa çıkacağı konusunda ciddi soru işaretleri olduğunu belirtti. American Sunlight Project'in baş araştırmacısı Benjamin Shultz ise, yapay zeka araçlarının demokratikleşmesiyle birlikte resmi portrelerin ve basın toplantısı videolarının kötü niyetli kişiler için hammadde haline geldiğine dikkat çekti.

Meta'nın Savunması ve Alınan Önlemler

Meta'nın politikaları, çıplaklık veya cinsel içerik barındıran reklamları ve "nudify" (soyunma) uygulamalarının tanıtımını kesinlikle yasaklıyor. Meta'nın kadın güvenliği birimi başkanı Cindy Southworth, bu tür uygulamaların tanıtımının korkunç olduğunu ve bununla agresif bir şekilde mücadele ettiklerini belirtti. Southworth, kötü niyetli kişilerin taktiklerini sürekli geliştirdiğini, bu nedenle savunmalarını güçlendirmek için yeni yapay zeka teknolojileri başlattıklarını ve geçen yılın sonlarında 340 binden fazla ihlal eden reklamı kaldırdıklarını ifade etti.

Araştırmacılar, reklamverenlerin sistemleri atlatmak için video reklamların kapak fotoğraflarında plaj, dağ veya şelale gibi masum doğa manzaraları kullandığını, asıl pornografik içeriğin ise videonun ilerleyen saniyelerinde gizlendiğini tespit etti. Bu durum, reklam denetim sistemlerinin atlatılmasında kullanılan yaygın bir taktik olarak öne çıkıyor.

--- **İlgili Kaynaklar:** İlgili yapay zeka danışmanlık ve çözüm hizmetleri için [yapay zeka firması](https://yapayzekafirmasi.com) platformuna göz atabilirsiniz.