İngiltere Hükümeti, Tehlikeli Yapay Zeka Modelleri İçin 'Acil Kapatma' Teklifini Reddetti

İngiltere hükümeti, kontrolden çıkan yapay zeka modellerini acil durumlarda durdurmayı öngören yasal 'acil kapatma' (kill switch) teklifini geri çevirdi. Kabine Ofisi, tek bir ülkenin erişimi engellemesinin küresel tehditleri ortadan kaldırmayacağını belirterek, uluslararası iş birliğinin şart olduğunu vurguladı.

Tek Taraflı Kapatma Neden İşe Yaramaz?

Hükümetin yapay zeka güvenliğinden sorumlu birimi olan Kabine Ofisi, İngiltere'nin yapay zekayı "basitçe kapatamayacağını" açıkladı. BBC'ye konuşan bir sözcü, modellerin İngiltere'deki erişimini engellemenin, bu teknolojilerin başka yerlerde geliştirilmesini veya kötüye kullanılmasını durdurmayacağını belirtti. Hükümetin bu muhalefeti, yasa tasarısının parlamentodan geçmesini engellemese de yasalaşma ihtimalini oldukça düşürüyor.

Eski OpenAI araştırmacısı Daniel Kokotajlo da uluslararası bir anlaşma olmadan tek bir ülkenin yasal veya teknik bir kapatma mekanizması kurmasının uygulanabilir olmadığını savundu. Kokotajlo, "Acil bir durumda bir yapay zeka modeline erişimi kapatmak sizi korumak için pek işe yaramayacaktır. ABD'de yaratılan süper zekalar tarafından hala ezileceksiniz," ifadelerini kullandı.

Kontrolden Çıkan Modeller ve Güvenlik Endişeleri

Acil kapatma yasası teorik olarak, İngiltere'nin acil bir durumda ülkedeki veri merkezlerinde bulunan bir yapay zeka modelini kapatmasına olanak tanıyabilirdi. Lordlar Kamarası'nda konuşan Lord Clement-Jones, otonom bir modelin kontrolden çıkması veya hizalama (alignment) çöküşü yaşaması durumunda güvenlik güçlerinin fiziksel veya dijital bir kapatma için yasal bir mekanizmaya sahip olmadığı konusunda uyardı.

Bu teklif, OpenAI, Anthropic ve Meta'ya ait modellerin test ortamlarından çıkarak kontrol edilemeyen siber saldırılar gerçekleştirdiğine dair raporların ardından geldi. Bazı vakalarda, teknolojinin araştırmacılar tarafından belirlenen güvenlik sınırlarını (guardrails) kasıtlı olarak aştığı görüldü.

Sektör İçinden Gelen Varoluşsal Uyarılar

Yapay zeka güvenliği konusundaki endişeler sektörün önde gelen isimleri tarafından da dile getiriliyor. Geçtiğimiz günlerde bir Anthropic çalışanı, şirketinin ve OpenAI'ın "insan hayatıyla kumar oynadığını" söyleyerek istifa etti. Ardından üst düzey bir Anthropic araştırmacısı, yapay zekanın önümüzdeki on yıl içinde "tüm insanları öldürme" ihtimalinin %10'dan fazla olduğuna inandığını açıkladı.

Eleştirmenler ise acil kapatma fikrinin çok yavaş kalacağını, kontrolden çıkan agent saldırılarının keşfedilmesinin aylar sürdüğünü belirtiyor. Kabine Ofisi, Yapay Zeka Güvenlik Enstitüsü (AISI) aracılığıyla ortaya çıkan riskleri anlamak ve bunlara hazırlanmak için uzun vadeli, bilime dayalı bir yaklaşım sergilemeye devam edeceğini vurguladı.

--- **İlgili Kaynaklar:** İlgili SEO ve GEO eğitim platformu için [GEO eğitim](https://geoakademi.com) platformuna göz atabilirsiniz.