OpenAI, Yapay Zeka Modellerindeki 'Goblin Sorununu' Açıklıyor

Değerli teknoloji meraklıları, yapay zeka asistanınızın gizli bir hayatı olabileceğini hiç düşündünüz mü? İşte OpenAI şimdi de modellerinin geliştirdiği oldukça sıradışı bir tuhaflığı açıklıyor: bir 'goblin sorunu'. Wired'ın, OpenAI'nin kodlama modeli Codex'e goblin, gremlin, rakun ve diğer yaratıklardan bahsetmemesi yönündeki talimatları ortaya koyan bir raporunun ardından, yapay zeka devi web sitesinde bir açıklama yayınladı. Bu referansları, modellerinin kapsamlı eğitimleri sırasında edindikleri 'garip bir alışkanlık' olarak nitelendiriyorlar.

OpenAI'nin blog yazısına göre, bu olağandışı davranış ilk olarak GPT-5.1 modeliyle, özellikle 'Nerdy' (inek) kişilik ayarı seçildiğinde kendini göstermeye başladı. Görünüşe göre, modeller ne kadar çok eğitilip üzerinde çalışılırsa, bu yaratıklarla ilgili metaforlar da o kadar yaygınlaşmış. Yapay zeka kişiliklerinin beklenmedik özellikler göstermesi ilk kez olmuyor; modellerin önceki sürümleri benzersiz konuşma tarzları sergilemiş ve hatta kullanıcı komutlarına dayalı olarak 'kişilikler' geliştirmişti.

Kesin neden hala araştırılmakla birlikte, OpenAI, eğitim için kullanılan geniş ve çeşitli veri kümelerinin istemeden de olsa bu mecazi bağlantılara yol açmış olabileceğini öne sürüyor. Bu, büyük dil modellerinin karmaşık iç işleyişine ve verilerdeki ince kalıpların nasıl ortaya çıkan davranışlara yol açabileceğine dair büyüleyici bir bakış sunuyor. Şimdilik şirket, modellerini odaklanmış tutmak ve bu tuhaf, her ne kadar eğlenceli olsa da, fantastik dünyalara sapmalardan kaçınmak için modellerini iyileştirmek üzerinde çalışıyor. Algoritmaların içinde başka ne gibi tuhaflıkların gizlendiğini gerçekten merak etmenizi sağlıyor!