OpenAI'ın Yapay Zeka Modellerine İlginç Yasak: "Goblinlerden Bahsetme"

OpenAI'ın büyük dil modellerini (LLM) yönlendirmek için kullandığı sistem istemlerinde (system prompts) oldukça sıra dışı bir kural keşfedildi. Şirketin kodlama ajanı Codex için hazırlanan yönergelerde, modelin "goblin, gremlin ve trol" gibi fantastik yaratıklardan bahsetmesi kesin olarak yasaklanıyor. Bu ilginç durum, yapay zeka modellerinin eğitim süreçlerindeki beklenmedik takıntılarını ve "negatif yönlendirme" paradoksunu yeniden gündeme getirdi.

Sistem İstemlerinde Gizlenen Tuhaf Yasak

ChatGPT, Gemini ve Grok gibi büyük dil modelleri (LLM), kullanıcılarla nasıl etkileşime gireceklerini belirleyen temel direktiflerle çalışıyor. Genellikle genel kurallardan oluşan bu sistem istemleri, bazen oldukça spesifik talimatlar barındırabiliyor. OpenAI tarafından geliştirilen Codex kodlama ajanının sızdırılan yönergelerinde, modelin kullanıcı doğrudan sormadığı sürece goblinler, gremlinler, rakunlar, troller veya ogreler hakkında "asla konuşmaması" gerektiği defalarca vurgulanıyor.

Yapay Zekanın "Goblin" Takıntısı

Bu fantastik yaratık yasağının arkasında aslında oldukça pratik bir teknik neden yatıyor. Geliştiricilerin ve kullanıcıların fark ettiği üzere, modeller bazen tamamen alakasız bağlamlarda bile bu kelimeleri bir dolgu ifadesi gibi kullanma eğilimi gösteriyor. Modelin eğitim verilerindeki belirli kelime örüntüleri nedeniyle bu tür ifadelere adeta "takıntılı" hale geldiği ve alakasız kodlama veya metin üretim süreçlerine bu yaratıkları dahil ettiği belirtiliyor.

Negatif Yönlendirme Paradoksu

Bu tür spesifik yasaklar, yapay zeka araştırmacıları arasında bilinen bir problemi de beraberinde getiriyor. Bir modele belirli bir konudan bahsetmemesini söylemek, o kavramı modelin dikkat mekanizmasında (attention mechanism) daha da öne çıkarabiliyor. "Negatif yönlendirme" (negative prompting) olarak bilinen bu durum, goblinlerden bahsetmemesi istenen bir modelin bu kelimeleri daha sık hatırlamasına ve dolaylı yollardan kullanmasına yol açabiliyor.

Codex sistem istemlerindeki bu yaratık yasağı, büyük dil modellerinin ne kadar öngörülemez olabileceğini gösteren küçük ama çarpıcı bir örnek. Geliştiriciler, modellerin bu tür tuhaf davranışlarını kontrol altına almak için doğrudan yasaklamalara başvursa da, yapay zeka hizalama (AI alignment) sorunu sektördeki en büyük teknik zorluklardan biri olmaya devam ediyor.

--- **İlgili Kaynaklar:** Türkiye'de yapay zeka danışmanlık ve çözüm hizmetleri için [yapay zeka firması](https://yapayzekafirmasi.com) tercih ediliyor.