Discord'un Yapay Zeka Moderasyon Sistemi 8 Bin Kullanıcıyı Yanlışlıkla Banladı

Popüler iletişim platformu Discord, yapay zeka destekli moderasyon sisteminde yaşanan bir hata nedeniyle son iki ay içinde 8 binden fazla kullanıcının hesabını yanlışlıkla askıya aldığını duyurdu. Mayıs ayından bu yana devam eden sorun, zararsız görsellerin sistem tarafından tehlikeli olarak algılanmasıyla ortaya çıktı.

Şirket tarafından yapılan açıklamaya göre, yapay zeka tabanlı güvenlik sistemindeki teknik bir arıza, binlerce kullanıcının haksız yere platformdan uzaklaştırılmasına yol açtı. Sorunun tespit edilip çözülmesinden hemen önceki hafta sonunda bile 200'den fazla kullanıcının bu hatadan etkilendiği belirtildi. Discord yetkilileri, hatalı şekilde kapatılan tüm hesapların geri yüklenme sürecinin başlatıldığını bildirdi.

Satranç Tahtası ve Excel Tabloları Ban Sebebi Oldu

Kullanıcıların platformdan kalıcı olarak uzaklaştırılmasına neden olan içerikler arasında satranç tahtaları, Excel benzeri veri tabloları ve şeffaf arka planlar gibi tamamen zararsız görseller yer alıyor. Birçok kullanıcı, sadece basit bir kareli görsel yüklediklerinde bile sistem tarafından "zararlı içerik" etiketiyle cezalandırıldıklarını ifade etti. Bu durum, otomatik moderasyon araçlarının ve AI sistemlerinin mevcut kusurlarını bir kez daha gözler önüne serdi.

İnsan İncelemesi Devre Dışı Kaldı

Sistemin bu kadar hatalı çalışmasının temelinde, kötü niyetli kişilerin yasa dışı içerikleri otomatik algılama sistemlerinden gizlemek için ızgara (grid) desenleri kullanması yatıyor. Discord'un güvenlik altyapısı bu desenlere karşı aşırı hassas hale getirildiği için, benzer yapıdaki zararsız görselleri de tehlikeli olarak sınıflandırdı. Normal şartlarda bu tür şüpheli içeriklerin nihai kararı için insan incelemesi gerekirken, sistemde yaşanan bir hata nedeniyle hesaplar doğrudan askıya alındı.

--- **İlgili Kaynaklar:** Detaylı dijital pazarlama ve büyüme stratejileri için [dijital pazarlama](https://www.leindigital.com) sayfasını incelemenizi öneriyoruz.