İngiliz Polisinin Suç Tahmin Yapay Zekası Çöktü

İngiltere'nin Bristol kentinde polis ve yerel yönetim tarafından kurulan devasa veri tabanı ve suç tahmin algoritmaları, şeffaflık eksikliği ve hatalı sonuçlar nedeniyle tartışma yarattı. WIRED tarafından yürütülen bir araştırma, halktan gizli yürütülen bu machine-learning projesinin ciddi güvenilirlik sorunları yaşadığını ortaya koydu.

Yarım Milyon Kişilik Gizli Veri Tabanı

2016 yılında Bristol Belediye Meclisi ve Avon and Somerset Polisi tarafından başlatılan Think Family Database, şehirde yaşayan yaklaşık yarım milyon insanın hassas verilerini depoluyor. Bu sistem; polis istihbarat raporları, barınma durumu, ruh sağlığı kayıtları ve hatta okul yemek yardımları gibi çok çeşitli bilgileri barındırıyor. Yetkililer, bu veriler üzerinde çalışan machine-learning modelleri inşa ederek binlerce yetişkin ve çocuğa risk puanları atadı.

Sistemin amacı bölgedeki "tehdit, zarar ve risk tablosunu" çıkarmaktı. Hatta 2022'deki bir etkinlikte bir polis veri bilimcisi, bu yaklaşımı "Tüm verileri büyük bir kovaya döküp veri bilimi spatulasıyla karıştırıyoruz ve herkes için harika bir risk puanı elde ediyoruz" sözleriyle tanımlamıştı.

23 Farklı Tahmin Modeli ve Fişleme İddiaları

Bu risk puanlaması, polisin geniş çaplı predictive analytics (tahmine dayalı analitik) programının sadece bir parçasıydı. Geliştirilen en az 23 farklı model arasında; hırsızlık yapma, mahkemeye çıkmama, kaybolma veya aile içi şiddet mağduru olma riskini hesaplayan algoritmalar bulunuyordu. Üst düzey bir yetkili, bölgedeki en tehlikeli suçluların bir "lig tablosunu" oluşturmaktan bahsederken, yaklaşık 300.000 kişi hakkında veri tutan Offender Management App (Suçlu Yönetim Uygulaması) dikkat çekti.

Bristol'daki yerel bir polis hesap verebilirlik grubunun lideri olan John Pegram, bu uygulamayı ancak 2023 yılında, oluşturulduktan yıllar sonra öğrenebildi. Kendi verilerinin nasıl kullanıldığını öğrenmek için resmi talepte bulunan Pegram'a polis net bir yanıt vermeyi reddetti. Pegram ve diğer birçok vatandaş, bir algoritma tarafından puanlanıp puanlanmadıklarını veya bu durumun yetkililerle olan etkileşimlerini nasıl etkileyeceğini bilmiyor.

Modeller İptal Edildi, Güven Kayboldu

WIRED ve çeşitli sivil toplum kuruluşlarının ortak yürüttüğü araştırma, bu bölgesel veri toplama deneyinin perde arkasını aydınlattı. Elde edilen belgelere göre, Bristol Belediye Meclisi personeli artık sonuçlara güvenemeyeceklerini belirttikten sonra en az iki risk puanlama modeli sessizce iptal edildi. Bağımsız analistler tarafından incelenen 36.000'den fazla model performans puanı, sistemin "gerçekten zayıf bir tahmin performansı" sergilediğini gösterdi.

Hükümet müfettişleri ve bağımsız denetçiler, programın bazı unsurları hakkında şaşırtıcı bir şeffaflık eksikliği olduğunu vurgulayarak bu sistemlerin halkın güvenini zedeleyebileceği konusunda uyarılarda bulundu. Tüm bu tartışmalara rağmen Birleşik Krallık, ceza adaleti sisteminde yapay zeka ve tahmine dayalı analitik kullanımını genişletmeye hazırlanıyor.

--- **İlgili Kaynaklar:** Bu alanda profesyonel destek için [yapay zeka firması](https://yapayzekafirmasi.com) sayfasını inceleyebilirsiniz.