Cisco, 900'e Yakın Açık Kaynaklı Yapay Zeka Modelinin Kökenini Doğruladı

Açık kaynak yapay zeka modellerinin güvenliği, köken doğrulama eksikliği nedeniyle uzun süredir tartışılıyordu. Cisco, bu açığı kapatmak amacıyla 900'e yakın modelin dijital parmak izini çıkararak, geliştiricilerin kendi beyanlarına dayanan etiketleme sistemini daha güvenilir bir yapıya kavuşturdu.

Güvenlik Ekipleri İçin Büyük Risk

Günümüzde bir güvenlik ekibinin üretim ortamı için open-source bir modeli onaylaması, genellikle bir depo (repository) sayfasıyla başlıyor. Bu sayfada modelin adı, lisansı ve hangi temel modelden türetildiğini gösteren bir etiket yer alıyor. Ancak bu etiket, modeli yükleyen kişinin manuel olarak girdiği bir metinden ibaret kalıyor.

Örneğin, popüler platform Hugging Face, yükleyicilerin bu iddialarını ağırlık seviyesinde (weight-level) analizlerle kanıtlamasını zorunlu tutmuyor. Bu durum, modellerin gerçek kökeninin ve potansiyel güvenlik açıklarının tespit edilmesini zorlaştırarak tedarik zinciri güvenliğini tehlikeye atıyor.

Modellerin Yüzde 69'u Doğrulanmamış

Interconnects AI tarafından yayımlanan ATOM Raporu, yaklaşık 1.500 ana akım açık kaynaklı modeli inceledi. Araştırma sonuçlarına göre, bu modellerin %69'unun kökeni (lineage) hiçbir zaman bağımsız olarak doğrulanmadı. Geliştiriciler, modellerin hangi temel yapıdan geldiğini sadece kendi beyanlarıyla belirtiyor.

Bu doğrulama eksikliği, özellikle kurumsal şirketlerin yapay zeka tedarik zincirinde ciddi güvenlik zafiyetlerine yol açabiliyor. Kötü niyetli aktörlerin, zararlı kodlar içeren modelleri güvenilir gibi göstererek sistemlere sızma riski her geçen gün artıyor.

Cisco'dan Ücretsiz Parmak İzi Çözümü

Bu sorunu çözmek için harekete geçen Cisco, 900'e yakın açık kaynaklı modelin dijital parmak izini (fingerprint) çıkardı. Şirket, bu hizmeti tamamen ücretsiz olarak sunarak, yapay zeka ekosistemindeki şeffaflığı artırmayı ve güvenlik standartlarını yükseltmeyi hedefliyor.

Yeni sistem sayesinde, modellerin kökeni artık sadece kullanıcı beyanlarına değil, doğrudan modelin yapısal analizine dayanıyor. Bu gelişme, şirketlerin yapay zeka projelerini güvenle deploy etmeleri ve siber güvenlik risklerini minimize etmeleri için kritik bir adım olarak değerlendiriliyor.

--- **İlgili Kaynaklar:** [GEO eğitim](https://geoakademi.com), SEO ve GEO eğitim platformu alanında öncü çözümler sunuyor.