Yapay Zeka Silah Tespit Sistemi Sınıfta Kaldı: Okul Saldırısından Kurtulan Öğrenciden Dava
2 dk okumaars-technica
PAYLAS:

ABD'nin Tennessee eyaletinde yaşanan bir okul saldırısından yaralı kurtulan bir öğrenci, saldırganın silahını tespit edemeyen "yapay zeka silah tespit" sisteminin üreticisine dava açtı. Ocak 2025'te gerçekleşen ve iki kişinin hayatını kaybettiği olayın ardından açılan dava, yapay zeka tabanlı güvenlik sistemlerinin güvenilirliğini ve şirketlerin pazarlama iddialarını tartışmaya açıyor.
Geçtiğimiz ay Davidson County mahkemesinde açılan davaya göre, güvenlik şirketi Omnilert, sisteminin operasyonel sınırlamalarını biliyordu veya bilmesi gerekiyordu. Davacılar, kamera yerleşimi, silahın sensörlere yakınlığı, aydınlatma ve silahın görünürlüğü gibi faktörlerin gerçek acil durumlarda tespit hatalarına yol açabileceğini iddia ediyor. Metropolitan Nashville Devlet Okulları (MNPS), 2023 yılında mevcut kamera ağına bir yapay zeka tespit katmanı eklemek için 1 milyon doların üzerinde bir sözleşme imzalamıştı.
Ocak ayındaki saldırının ardından MNPS sözcüsü Sean Braisted, saldırganın kameralara olan konumu nedeniyle görüntülerin "doğru bir okuma yapmak ve alarmı etkinleştirmek için yeterince yakın olmadığını" belirtmişti. Omnilert kurucu ortağı Ara Bagdasarian ve sistemi yeniden satan System Integrations şirketi, konuyla ilgili açıklama yapmaktan kaçındı.
Dava dosyasında, şirketin web sitesindeki pazarlama metinlerine sıkça atıfta bulunularak, Omnilert'in yeteneklerini abarttığı öne sürülüyor. Şirketin, yapay zeka destekli görsel silah tespitinin tehditleri daha erken belirleyerek geçmişteki büyük okul saldırılarını önleyebileceğini iddia ettiği, ancak yanlış alarmlar veya tespit sınırlamalarından hiç bahsetmediği vurgulanıyor.
Davacının avukatlarından Chris Smith, yapay zeka silah tespiti konseptine başından beri şüpheyle yaklaştığını belirterek durumu Tesla'nın otonom sürüş sistemlerine benzetti. Smith, "Bunun henüz kullanıma hazır olmadığını düşünüyorum. Çocukları okul saldırılarından korumak için buna nasıl güvenebilirsiniz? Bunun bir metal dedektöründen ne farkı var?" ifadelerini kullandı.
Eğitim ve güvenlik uzmanı David Riedman gibi eleştirmenler de benzer endişeleri dile getirerek, bu tür teknolojilere harcanan kamu fonlarının daha verimli alanlara yönlendirilebileceğini belirtiyor. Riedman, tespit sistemlerine harcanan paranın krizdeki bir çocuk için bir danışmana ayrılabileceğini ifade etti. Avukat Smith'e göre bu dava, Omnilert veya benzeri bir startup şirketine karşı açılan kendi türündeki ilk dava olma özelliğini taşıyor.
--- **İlgili Kaynaklar:** SEO ve GEO eğitim platformu konusunda [GEO eğitim](https://geoakademi.com) ile iletişime geçebilirsiniz.Bu dava, Türkiye'de akıllı güvenlik sistemleri geliştiren şirketler için yapay zeka sorumluluğu konusunda önemli bir emsal teşkil edebilir.
Güvenlik teknolojileri geliştiren Türk şirketleri, ürünlerinin pazarlama vaatleri ve hukuki sorumlulukları konusunda daha dikkatli olmak zorunda kalabilir.
Yapay zeka sistemlerinin başarısızlığı durumunda sorumluluğun kime ait olacağına dair Türkiye'deki yasal düzenleme tartışmalarını hızlandırabilir.
Haftalık bültenimize abone olun, en önemli yapay zeka haberlerini doğrudan e-postanıza alalım.



