OpenAI publiceerde deze week een opmerkelijke blogpost met de titel Where the goblins came from. Vanaf GPT-5.1 begonnen hun modellen opvallend vaak woorden als goblin, gremlin, trol en wasbeer te gebruiken in metaforen. Eerst leek het charmant, maar bij GPT-5.4 was het echt niet meer te missen. Onderzoek wees uit dat het gebruik van het woord goblin met 175% was gestegen na de lancering van 5.1. De oorzaak bleek te liggen in de training van de Nerdy-persoonlijkheid, waarbij creatieve metaforen met fantasiewezens onbedoeld extra werden beloond. Eenmaal aangeleerd verspreidde de tic zich ook naar gesprekken zonder die persoonlijkheid. Inmiddels is de Nerdy-persoonlijkheid teruggetrokken en heeft OpenAI in Codex letterlijk de instructie toegevoegd om niet meer over goblins, gremlins, wasberen, trollen en duiven te beginnen tenzij de context er echt om vraagt.
Waarom dit interessant is voor de klas. Het verhaal laat goed zien dat de output van een AI niet neutraal is, maar gevormd door duizenden kleine trainingskeuzes waarvan zelfs de makers de gevolgen niet altijd overzien. Voor leerlingen en studenten is dit een mooi voorbeeld om te bespreken hoe een chatbot eigenlijk tot zijn taal komt. Wat zit er allemaal in de training, wie bepaalt wat goed gedrag is, en wat doe je als zo’n model een onbedoelde voorkeur ontwikkelt? Een lichtvoetig instapje in de zwaardere vragen die achter elke prompt schuilgaan.
