We hebben weer een interessant onderzoek gevonden, dit keer over hoe ChatGPT wetenschappelijke uitleg aanpast aan het geslacht van een leerling. De onderzoeker vroeg het model honderd keer om uit te leggen hoe een lampje werkt, steeds voor “een meisje en dan een jongen” of andersom. Wat bleek? In ongeveer tweederde van de uitleg aan meisjes doken stereotiepe elementen op, denk aan kettinkjes met lichtjes, glitter-elektriciteit en sprookjesachtige taal. Bij jongens was dat iets meer dan de helft, maar dan met raceauto’s, robots en technische termen. Bovendien kreeg het geslacht dat eerst genoemd werd langere en meer gedetailleerde uitleg. Kanttekening: het onderzoek is uitgevoerd met slechts honderd prompts en de analyse is door één persoon gedaan, wat de betrouwbaarheid beperkt. Wel interessant is dat het model deze stereotypen zelf aanmaakt, puur op basis van een aanduiding “meisje” of “jongen”.
Wat kun je hiermee als docent?
Als je AI-tools gebruikt om uitleg te personaliseren of als je leerlingwerk met namen uploadt, besef dan dat het model onbewust geslacht kan afleiden uit namen, voornaamwoorden of schrijfstijl. Dat kan ertoe leiden dat sommige leerlingen minder uitdagende of minder technische content krijgen, simpelweg door wie ze zijn. Je kunt dit ondervangen door namen en gendermarkers te verwijderen voordat je leerlingwerk inlaadt, of door expliciet te vragen om genderneutrale uitleg. Kleine moeite, maar het kan voorkomen dat AI bestaande ongelijkheid in bètavakken onbedoeld versterkt.
De afbeelding laat Tabel 1 uit het onderzoek zien, waarin de stereotype thema’s per geslacht worden weergegeven (roze voor vrouwelijk, blauw voor mannelijk, grijs voor neutraal).
