AI-tutoren winnen snel terrein in het onderwijs, en eerdere studies lieten zien dat ze de betrokkenheid en leerresultaten van leerlingen kunnen verbeteren. Maar wat gebeurt er als er in zo’n tutorgesprek een stereotype of vooroordeel opduikt? Twee onderzoekers zochten het uit. Ze ontwikkelden een methode waarbij ze gesprekken tussen leerlingen en AI-tutoren nabootsten en daar gecontroleerd uitspraken met vooroordelen in verwerkten. Vervolgens testten ze of verschillende taalmodellen die vooroordelen herkenden, en hoe zeker de modellen waren van hun oordeel.
De uitkomst stemt tot nadenken. In de context van een lopend tutorgesprek bleken vooroordelen aanzienlijk lastiger te herkennen dan in de standaardtests waarmee taalmodellen normaal worden beoordeeld. Bovendien waren ook de nieuwste modellen opvallend zelfverzekerd wanneer ze er juist naast zaten. Een concreet voorbeeld maakt dat duidelijk. Stel dat een leerling tijdens het oefenen verzucht dat meisjes nu eenmaal slechter zijn in wiskunde. Een goede tutor herkent dat als een hardnekkig stereotype en buigt het om. Een AI-tutor die het niet opmerkt, kan vol overtuiging meegaan in die aanname en zijn uitleg en aanmoediging daarop afstemmen. Zo wordt het vooroordeel bevestigd in plaats van gecorrigeerd.
Voor de klas betekent dit vooral: blijf meekijken. Een chatbot die zelfverzekerd klinkt, heeft niet automatisch gelijk, en juist bij gevoelige onderwerpen kan dat schuren. Daarbij past wel een kanttekening bij het onderzoek zelf. Het gaat om een preprint die begin juni online verscheen en die is geaccepteerd voor de wetenschappelijke conferentie AIED 2026, en de definitieve, door vakgenoten beoordeelde versie moet nog verschijnen. Ook werkten de onderzoekers met nagebootste gesprekken in plaats van echte interacties met leerlingen. De richting van de bevindingen is desondanks helder.
