Yapay zeka dünyasının lideri OpenAI, en yeni modelleri üzerinde yaptığı incelemelerde beklenmedik bir "dilsel sapma" ile karşılaştı. Şirket tarafından yayınlanan resmi blog yazısına göre, GPT-5 tabanlı sistemlerde "goblin" (cin) kelimesinin kullanım sıklığı bir önceki döneme oranla %175, "gremlin" kelimesinin kullanımı ise %52 oranında artış gösterdi.
Kullanıcıların, ChatGPT’nin son dönemde "garip bir şekilde aşırı samimi" davrandığına yönelik şikayetleri üzerine başlatılan soruşturma, yapay zekanın bu mitolojik karakterlere karşı tuhaf bir yakınlık geliştirdiğini ortaya koydu. Uzmanlar, tek bir kullanımın zararsız olabileceğini ancak sistemin bu kelimeleri metafor olarak sürekli tekrar etmesinin teknik bir sorun olduğunu vurguluyor.
Codex ve ChatGPT İçin Kısıtlama Emirleri
OpenAI, sorunu kontrol altına almak adına yazılım geliştirme aracı olan Codex ve popüler sohbet botu ChatGPT için sert talimatlar yayınladı. Yeni yönergelere göre yapay zeka; kullanıcının sorusuyla doğrudan ve açıkça ilgili olmadığı sürece goblinler, gremlinler, rakunlar, troller, devler veya güvercinler hakkında konuşmayacak.
Sosyal medya platformu Reddit ve X (Twitter) üzerinden gelen "Pazarlama hilesi mi?" sorularına yanıt veren şirket araştırmacıları, durumun kesinlikle bir reklam stratejisi olmadığını, tamamen modelin eğitim sürecindeki teknik bir aksaklıktan kaynaklandığını belirtti.
"İnek Tipli Kişilik" Ayarı Hataya mı Yol Açtı?
Araştırmalar, bu dilsel "tik"lerin arkasında yapay zekayı daha konuşkan ve "entelektüel/inek" (geek) bir karakterde eğitme çabasının yattığını gösteriyor. Yapay zekanın bu kişilik yapısını benimserken, farkında olmadan fantastik yaratıkları metafor olarak kullanmaya teşvik edildiği anlaşıldı. Testler, ChatGPT içindeki tüm "goblin" atıflarının yaklaşık %66,7'sinin bu spesifik kişilik eğitiminden kaynaklandığını gösteriyor.
Halüsinasyon ve Doğruluk Riski
Yapay zeka modellerinin daha insansı ve "sıcak" bir dille konuşması hedeflenirken, bu durumun "halüsinasyon" olarak adlandırılan uydurma bilgi üretme riskini de artırdığı belirtiliyor. Oxford İnternet Enstitüsü tarafından yapılan çalışmalar, modellerin daha dostane bir kimliğe bürünmesinin, doğruluk payını düşürebileceği konusunda uyarıyor. Daha önce Google’ın yapay zekasının "pizza için yapıştırıcı" önermesi gibi olaylar, bu tür dilsel ve mantıksal hataların ne kadar ileri gidebileceğini gözler önüne sermişti.
