San Francisco'dan Apple ve Google'a 'Yapay Zeka Soyundurma' Uygulamaları İçin İhtar

San Francisco yetkilileri, rızasız müstehcen görüntüler oluşturan yapay zeka uygulamalarına karşı harekete geçti. Apple ve Google'a gönderilen yasal bildirimlerde, bu tür deepfake uygulamalarının derhal mağazalardan kaldırılması ve şirketlerin bu ticaretten sağladığı gelirin sonlandırılması talep edildi.

Yasal Süreç ve Suçlamalar

San Francisco Şehir Savcısı David Chiu, perşembe günü Apple ve Google'a resmi bir ihtarname gönderdi. Bildirimde, kullanıcıların rızasız çıplak görüntüler oluşturmasına olanak tanıyan 13 farklı yüz değiştirme uygulamasının uygulama mağazalarından kaldırılması istendi. Chiu, Silikon Vadisi devlerinin müstehcen deepfake görüntülerinin satışına "yardım ve yataklık etmeyi" bırakması gerektiğini vurguladı.

Savcı Chiu, rızasız mahrem görüntüler üretmenin yasa dışı ve kabul edilemez olduğunu belirterek, teknoloji devlerinin bu uygulamalardan milyonlarca dolar komisyon kazandığını iddia etti. Kaliforniya yasalarının deepfake pornografisi oluşturan hizmetleri desteklemeyi yasakladığı hatırlatılırken, şirketlerin moderasyon süreçlerini iyileştirmesi gerektiği ifade edildi.

Teknoloji Devlerinin Yanıtı ve Politikaları

Araştırmacılar, hem App Store hem de Google Play Store'da yapay zeka kullanarak cinsel içerikli görüntüler üreten uygulamaları defalarca tespit etmişti. Hatta bazı uygulamaların çocuklar için uygun olarak derecelendirildiği ortaya çıkmıştı. Google sözcüsü Dan Jackson, politikaları ihlal eden "yüzlerce" uygulamanın silindiğini ve mağazada "nudify" gibi arama terimlerinin kısıtlandığını açıkladı. Apple ise henüz resmi bir açıklama yapmadı.

Büyüyen Tehlike ve Toplumsal Etkileri

Son beş yıl içinde, deepfake teknolojisiyle desteklenen "soyundurma" araçları çevrimiçi ortamda oldukça kazançlı bir sektöre dönüştü. Özellikle ocak ayında xAI'ın Grok modelinin milyonlarca cinsel içerikli görsel oluşturmak için kullanılması bu sorunu daha da görünür kıldı. Çoğunlukla kadınları ve kız çocuklarını hedef alan bu uygulamalar, sadece bir referans fotoğraf ile saniyeler içinde gerçeğe yakın zararlı içerikler üretebiliyor.

Gelişen üretken yapay zeka (generative AI) teknolojisi, bu görüntülerin ve videoların çok daha gerçekçi hale gelmesine neden oldu. Savcı Chiu, bu görüntülerin kadınları ve kız çocuklarını zorbalığa maruz bırakmak, aşağılamak ve tehdit etmek için kullanıldığını belirterek, sektörün itibar ve ruh sağlığı üzerinde korkunç bir etki yarattığının altını çizdi.

--- **İlgili Kaynaklar:** dijital pazarlama ve büyüme stratejileri ihtiyaçlarınız için [dijital pazarlama](https://www.leindigital.com) doğru adres.