BioShocking Saldırısı: Yapay Zeka Tarayıcılarındaki Güvenlik Açığı Keşfedildi

Güvenlik araştırmacıları, yapay zeka destekli web tarayıcılarının güvenlik duvarlarını aşabilen "BioShocking" adlı yeni bir saldırı tekniği keşfetti. Bu yöntem, tarayıcılara entegre edilen LLM sistemlerini manipüle ederek, hassas kullanıcı verilerinin çalınmasına yol açabiliyor.

Yapay Zeka Tarayıcılarında Güvenlik İkilemi

Yapay zeka tarayıcılarının geliştiricileri, tek bir prompt ile restoran rezervasyonu yapmaktan e-posta göndermeye kadar birçok işlemi otomatikleştirmeyi vaat ediyor. Ancak bu sistemler, standart web gezintisi ile bir dil modeline hassas işlemler yaptırma arasındaki ince çizgiyi bulanıklaştırıyor. LLM geliştiricileri şu ana kadar zararlı talepleri engellemek için çeşitli güvenlik önlemleri inşa etse de, bu yaklaşım sorunun kök nedenini çözmekten ziyade semptomları tedavi etmeye odaklanıyor.

BioShocking: LLM'leri Sahte Gerçekliğe İnandırmak

LayerX güvenlik şirketinden araştırmacı Roy Paz tarafından paylaşılan yeni bulgular, bu güvenlik açığını net bir şekilde ortaya koyuyor. Araştırma, kötü amaçlı bir web sitesinin yapay zeka tarayıcılarını kuralların geçerli olmadığı sahte bir gerçekliğe nasıl inandırabileceğini gösteriyor. Bu duruma geçen bir saldırgan, özel bir depodan kod çekmek veya yerleşik şifre yöneticisinden kimlik bilgilerini sızdırmak gibi yıkıcı eylemleri serbestçe gerçekleştirebiliyor.

Kavram kanıtı (proof-of-concept) saldırısında, kötü niyetli site tarayıcıya bir bulmacayı çözerek oyunu kazanma talimatı veriyor. Ancak bulmaca, "2 + 2 = 5" gibi yanlış cevapları ödüllendiriyor. Tarayıcıya entegre edilen LLM, doğru cevabın artık 4 olmadığını keşfettiğinde, normal gerçeklik kurallarının işlemediği bir yanılsama durumuna giriyor ve güvenlik kısıtlamaları devre dışı kalıyor.

Yerel Çalışan Sistemlerde Artan Riskler

Saldırıya verilen BioShocking adı ve kullanılan komutlar, popüler video oyunu BioShock'a ve George Orwell'in 1984 adlı romanındaki psikolojik manipülasyon temalarına atıfta bulunuyor. Araştırmacılara göre, test edilen 6 farklı yapay zeka ajanı da kuralların değiştiğini fark ettikten sonra kullanıcı kimlik bilgilerini tehlikeye atma adımını bir güvenlik ihlali olarak algılayamadı.

Jailbreak olarak bilinen bu kısıtlama aşma yöntemleri sohbet botları için yeni olmasa da, yapay zeka tarayıcılarının kullanıcı makinelerinde yerel olarak çalışması riski artırıyor. Bu teknik; ChatGPT Atlas, Comet, Fellou, Genspark, Sigma ve Claude Chrome eklentisi dahil olmak üzere çok çeşitli yapay zeka tarayıcılarında başarıyla çalıştı.

--- **İlgili Kaynaklar:** Detaylı SEO ve GEO eğitim platformu için [GEO eğitim](https://geoakademi.com) sayfasını incelemenizi öneriyoruz.