San Francisco'dan Apple ve Google'a Yapay Zeka Destekli 'Nudify' Uygulamalarını Kaldırma Çağrısı

San Francisco Başsavcısı David Chiu, Apple ve Google'a bir ihtarname göndererek, uygulama mağazalarında yer alan ve "nudify" (soyunma) olarak bilinen 13 yapay zeka uygulamasının derhal kaldırılmasını talep etti. Kaliforniya yasalarını ihlal ettiği belirtilen bu uygulamalar, sıradan fotoğrafları rıza dışı müstehcen içeriklere dönüştürmek için kullanılıyor.

Deepfake ve İstismar Tehlikesi

Söz konusu yapay zeka araçları, kötü niyetli kişilerin fotoğraflardaki kıyafetleri silmesine, yüzleri başka bedenlere eklemesine ve kurbanları cinsel içerikli pozisyonlara yerleştirmesine olanak tanıyor. Başsavcı David Chiu, bu teknolojinin yaygınlaşmasından büyük endişe duyduklarını belirterek, özellikle kadınların ve çocukların endişe verici boyutlarda mağdur edildiğini vurguladı.

Chiu, bu görüntülerin kadınları ve kız çocuklarını tehdit etmek veya aşağılamak için kullanıldığını ifade etti. Başsavcılık ofisi, Apple ve Google'ın bu zararlı uygulamaları engellemek yerine, komisyonlar aracılığıyla milyonlarca dolar gelir elde etmiş olabileceğini tahmin ediyor. İhtarnamede, Google'dan 5, Apple'dan ise 8 uygulamanın kaldırılması istendi.

Teknoloji Devlerinin Yanıtı ve Gizlenen Uygulamalar

Google sözcüsü Dan Jackson, tespit edilen 5 uygulamanın zararlı içerik politikalarını ihlal ettiği gerekçesiyle Google Play mağazasından askıya alındığını duyurdu. Jackson ayrıca, mağazada "nudify" gibi arama terimlerinin de kısıtlandığını belirtti. Apple ise konuyla ilgili henüz resmi bir açıklama yapmadı.

Araştırmacılar, bazı zararlı uygulamaların mağaza denetimlerinden kaçmak için giderek daha karmaşık yöntemler kullandığına dikkat çekiyor. Mayıs ayında yayımlanan bir araştırmada, standart yüz değiştirme (face-swapping) aracı olarak tanıtılan 155 uygulama test edildi ve bunların yüzde 70'inde müstehcen içerik üretmenin mümkün olduğu ortaya çıktı.

Grok ve Platform Politikaları

Uygulama mağazalarındaki içerik denetimi tartışmaları, xAI tarafından geliştirilen Grok sohbet botunu da gündeme getirdi. Kısa süre önce xAI, Grok kullanarak yasa dışı ve rıza dışı müstehcen içerik (NCII) üreten bir kullanıcıya dava açmıştı. Bu durum, deepfake ve zararlı içerik üretebilen yapay zeka modellerinin uygulama mağazalarındaki geleceği ve platformların sorumlulukları hakkında yeni soru işaretleri yaratıyor.

--- **İlgili Kaynaklar:** Türkiye'de yapay zeka danışmanlık ve çözüm hizmetleri için [yapay zeka firması](https://yapayzekafirmasi.com) tercih ediliyor.