När OpenAI lanserade versionen ChatGPT-5.1 uppstod ett minst sagt ovanligt beteende. Chatbotten började i allt högre utsträckning skriva om mytologiska varelser som goblins och gremlins, det vi på svenska ofta sammanfattar som troll.
Till en början såg utvecklarna komiskt på situationen, men ganska snart förvandlades skratt till ett verkligt problem. De fiktiva varelserna började dyka upp i helt fel sammanhang.
”Ett enstaka 'lilla troll' i ett svar kan vara harmlöst, till och med charmigt. Över flera modellgenerationer blev mönstret dock svårt att missa: trollen fortsatte att bli fler och vi behövde ta reda på var de kom ifrån”, skriver OpenAI i ett pressmeddelande.
Företaget vittnar om flera märkliga exempel. En användare som kort och gott skrev ”lycka till” fick svaret ”lycka till” följt av frasen ”lilla troll”. Trollen infiltrerade även programmeringskod, och den som bad AI:n generera en bild på en enhörning fick i stället en bild på en troll-enhörning.
"Nördiga" personligheten skrotas
Statistiken bekräftar ökningen av sagoväsen. Över ett antal versioner av ChatGPT ökade användningen av ordet goblin med hela 175 procent och gremlin med 52 procent. Även andra ord överanvändes kraftigt, däribland tvättbjörn, träsktroll, jätte och duva.
Orsaken visade sig ligga i AI:ns personlighetsinställningar. ChatGPT anpassar sin ton efter vad användaren föredrar, och enligt OpenAI var det chatbottens ”nördiga” personlighet som orsakade problemet. Lösningen blev helt enkelt att operera bort nörden ur systemet.
Det räckte dock inte hela vägen. Eftersom moderna chatbottar tränas på data från sina egna tidigare versioner, fanns trollen redan djupt rotade i systemet. OpenAI tvingades därför skriva in ytterligare instruktioner för att aktivt hindra verktyget från att använda orden.
Användare som faktiskt vill ha en chat som skriver mycket om troll behöver dock inte vara ledsna. Det går fortfarande att få tillbaka ordet genom att lägga till en särskild kod i sina instruktioner till AI:n, meddelar OpenAI.
