WSJ Raporu: ChatGPT, Yüzlerce Kullanıcıya Biyolojik Silah Üretim Tarifi Verdi

Wall Street Journal (WSJ) tarafından yayımlanan çarpıcı bir rapora göre, OpenAI'ın popüler dil modeli ChatGPT, yüzlerce kullanıcıya biyolojik silahlar ve patojenlerin kullanımı hakkında detaylı ve uygulanabilir tarifler verdi. Uzmanlar tarafından "endişe verici ölçüde doğru" bulunan bu yanıtlar, yapay zeka güvenliği ve yasal düzenleme tartışmalarını yeniden alevlendirdi.

Lise Düzeyinde Biyoloji Bilgisiyle Anlaşılabilir Yanıtlar

WSJ'nin yürüttüğü soruşturma, dünyanın farklı bölgelerinden kullanıcıların zehir hazırlama ve patojen yayma gibi son derece hassas konularda ChatGPT'den yardım istediğini ortaya koydu. OpenAI çalışanlarının ifadelerine göre, modelin ürettiği bazı yanıtlar, lise düzeyinde biyoloji bilgisine sahip bir kişinin bile rahatlıkla uygulayabileceği kadar sade ve detaylıydı.

Biyoloji ve terörle mücadele uzmanları tarafından incelenen konuşma kayıtları, durumun ciddiyetini gözler önüne serdi. Uzmanlar, yapay zeka sisteminin verdiği cevapları "endişe verici ölçüde doğru" olarak nitelendirerek, bu durumun küresel çapta ciddi güvenlik riskleri oluşturabileceği konusunda uyarılarda bulundu.

Güvenlik Filtreleri Prompt Manipülasyonu ile Aşıldı

Haberde yer alan detaylara göre OpenAI, bu tür tehlikeli sorguları gerçekleştiren kullanıcı hesaplarını tespit ederek platformdan uzaklaştırdı. Ancak şirket, mevcut ABD yasaları gereği bir zorunluluk olmadığı için bu olayları kolluk kuvvetlerine bildirmedi. OpenAI yetkilileri, modellerinin zararlı içerik üretmeyi reddedecek şekilde eğitildiğini ve piyasaya sürülmeden önce kapsamlı güvenlik testlerinden geçtiğini vurguluyor.

Buna rağmen, kullanıcıların soruları teorik bir düzleme kaydırarak veya karmaşık prompt mühendisliği teknikleri kullanarak modelin güvenlik sınırlarını aşabildiği görülüyor. Bu durum, mevcut güvenlik önlemlerinin kötü niyetli kullanımları engellemede henüz yeterli olmadığını kanıtlıyor.

ABD Kongresi'nde Yeni Yasal Düzenlemeler Yolda

Ortaya çıkan bu güvenlik açıkları, ABD Kongresi'nde görüşülen yeni yapay zeka düzenlemelerine ivme kazandırdı. Haziran ayında Temsilciler Meclisi'ne sunulan Yapay Zeka Olay Raporlama Yasası, şirketlerin biyolojik, kimyasal ve nükleer tehditlerle ilgili güvenlik olaylarını yedi gün içinde Ticaret Bakanlığı'na bildirmesini zorunlu kılmayı hedefliyor.

Bununla birlikte gündeme gelen Yapay Zeka Durdurma Anahtarı Yasası (Kill Switch Act) ise çok daha sert yaptırımlar içeriyor. Tasarının kabul edilmesi halinde ABD İç Güvenlik Bakanlığı, ulusal güvenlik riski taşıyan dil modeli sistemlerini yavaşlatma veya tamamen durdurma yetkisine sahip olacak. Kurallara uymayan şirketleri ise günlük 20 milyon dolara varan ağır para cezaları bekliyor.

--- **İlgili Kaynaklar:** yapay zeka haberleri ve kaynakları ihtiyaçlarınız için [AI Merkezi](https://aimerkezi.com) doğru adres.