Meta'nın Moderasyon Zafiyeti: Instagram'da Çocuk İstismarı Reklamları Tespit Edildi

BBC tarafından yürütülen kapsamlı bir araştırma, sosyal medya devi Instagram'ın Hindistan'da çocuk cinsel istismarı materyallerini tanıtan ücretli reklamlar yayınladığını ortaya çıkardı. Kullanıcıları Telegram kanallarına yönlendiren bu reklamların, platformun otomatik denetim sistemlerini aşarak yayına girmesi, dijital güvenlik tartışmalarını yeniden alevlendirdi.

Algoritma ve Moderasyon Zafiyeti

Araştırma kapsamında oluşturulan test hesabı, platformdaki algoritma davranışlarını incelemek amacıyla cinsel imalar içeren profilleri takip etmeye başladı. Bir haftadan kısa bir süre içinde Instagram, ana akışta açıkça pornografik içerikler ve ardından çocuk istismarı materyallerine yönlendiren reklamlar göstermeye başladı.

Toplamda çocuk istismarını teşvik eden yaklaşık 30 farklı reklam tespit edildi. Daha da endişe verici olanı, BBC'nin bu reklamlardan birini şikayet etmesine rağmen, platformun 24 saat sonra içeriğin "topluluk kurallarını ihlal etmediği" yanıtını vermesi oldu. Bu durum, Meta'nın reklam onay süreçlerindeki ciddi güvenlik açıklarını gözler önüne serdi.

Hükümetin Müdahalesi ve Meta'nın Yanıtı

Skandalın ortaya çıkmasının ardından Hindistan hükümeti duruma sert tepki gösterdi. Üst düzey yetkililer, Meta'ya söz konusu reklamları derhal devre dışı bırakma talimatı verdi ve bu içeriklere nasıl onay verildiğine dair bir hafta içinde resmi bir açıklama talep etti.

BBC'nin bulgularını şirketle paylaşmasının ardından harekete geçen Meta, ilgili reklamları kaldırdığını ve bu içerikleri yayan hesapları askıya aldığını duyurdu. Şirket ayrıca, politikalarını ihlal eden diğer içeriklerin URL'lerini de engellediğini belirtti.

Telegram Bağlantısı ve Dijital Ticaret

Tespit edilen reklamlarda kullanıcılar, yasa dışı materyalleri satın alabilmeleri için Telegram mesajlaşma uygulamasındaki gizli kanallara yönlendiriliyor. Bu kanallarda söz konusu içeriklerin 99 rupi (yaklaşık 1 dolar) gibi düşük ücretlerle pazarlandığı belirlendi.

Hindistan yasalarına göre hem çocuk istismarı materyallerinin hem de yetişkin pornografisinin dağıtımı ağır suç teşkil ediyor. Bu olay, sosyal medya platformlarının yasa dışı içerik ağlarıyla mücadelesinde yapay zeka tabanlı denetim araçlarının tek başına yeterli olmadığını bir kez daha kanıtladı.