Meta, Gençlerin Yapay Zeka ile Riskli Konuşmalarını Ebeveynlere Bildirecek

Meta, gençlerin Meta AI sohbet botuyla intihar veya kendilerine zarar verme üzerine yaptığı konuşmaları tespit ederek ebeveynlere bildirim göndereceğini duyurdu. Şirket ayrıca, yüksek riskli durumlarda acil servislerle iletişime geçilmesini sağlayacak yeni bir sistem üzerinde çalışıyor. Bu adım, yapay zeka şirketlerinin kriz anındaki kullanıcılara yönelik sorumluluklarının tartışıldığı bir dönemde geldi.

Yapay Zeka Destekli Tespit ve Manuel İnceleme

Meta, gençlerin kendilerine zarar verme niyetini açıkça belirttikleri konuşmaları tespit etmek için özel bir yapay zeka sistemi geliştirdiğini açıkladı. Şirket, ebeveynlerin bu tür bildirimleri almasının ne kadar sarsıcı olabileceğinin farkında olduklarını belirterek, AI tarafından işaretlenen tüm sohbetlerin bildirim gönderilmeden önce manuel olarak inceleneceğini vurguladı.

Kullanıcının niyetinin belirsiz olduğu durumlarda şirket, tedbiri elden bırakmayarak ebeveynleri yine de uyaracak. Meta yetkilileri, bazen gerçek bir endişe kaynağı olmasa bile bildirim gönderilebileceğini, ancak bunun doğru bir başlangıç noktası olduğuna inandıklarını ifade etti.

Küresel Kullanım ve Ek Güvenlik Önlemleri

Söz konusu bildirimler şu anda ABD, İngiltere, Avustralya ve Kanada'da Instagram Ebeveyn Gözetimi araçlarını kullanan ebeveynler için aktif hale getirildi. Özelliğin yıl sonuna kadar küresel çapta, dolayısıyla Türkiye'de de kullanıma sunulması planlanıyor. Bu güncelleme, gençlerin Instagram'da intihar veya kendine zarar verme terimlerini defalarca araması durumunda gönderilen mevcut bildirim sisteminin üzerine inşa ediliyor.

Ayrıca, ebeveynlerin gençleri daha kısıtlayıcı bir deneyime tabi tutmasını sağlayan "Sınırlı İçerik" ayarı artık Meta AI için de geçerli olacak. Sohbet botu halihazırda gençlerle cinsel, romantik veya alkol odaklı konuşmalardan kaçınmak üzere eğitilmişken (fine-tuning), bu yeni ayar botun çok daha geniş bir prompt yelpazesini reddetmesini sağlayacak.

Acil Servislerle Entegrasyon

Meta'nın duyurduğu bir diğer önemli gelişme ise acil müdahale gerektiren durumlarla ilgili. Şirket, kullanıcının yetişkin veya genç olmasından bağımsız olarak, Meta AI ile yapılan bir konuşmanın intihar riski taşıdığını göstermesi halinde acil servislerle iletişime geçecek. Bu uygulama, Facebook veya Instagram'daki riskli paylaşımlar için halihazırda uygulanan prosedürün sohbet botlarına genişletilmiş hali olarak öne çıkıyor.

--- **İlgili Kaynaklar:** Türkiye'de yapay zeka haberleri ve kaynakları için [AI Merkezi](https://aimerkezi.com) tercih ediliyor.