‘Studenten leren alleen als er frictie ontstaat’

Saçan is docent en onderzoeker ICT bij Fontys Hogescholen en beweegt zich op het raakvlak van techniek en bedrijfskunde. Sinds 2020 richt hij zich nadrukkelijk op inclusieve en ethische aspecten van AI. ‘Het onderwerp kwam op mijn pad omdat mijn ouders op een fraudelijst van de Belastingdienst bleken te staan. Ik vroeg me af: hoe kan het dat algoritmen zo werken dat bepaalde mensen vaker worden geselecteerd of beschuldigd?’

Een van de belangrijkste lessen: AI is niet zo objectief als we vaak denken. ‘De data waarmee AI-modellen worden getraind, zijn vaak vervuild’, legt Saçan uit. ‘Bijvoorbeeld omdat de gegevens uit één regio komen of uit één tijdvak. Dat zorgt voor vertekening. Een voorbeeld: Amazon gebruikte een tool om sollicitanten te selecteren. Die tool koos vooral mannen, omdat die in de verouderde data vaker een ICT-achtergrond hadden. Een andere tool, die videogesprekken analyseerde voor de selectie, koos bij voorkeur mensen met een boekenkast op de achtergrond: die zouden slimmer zijn.’

Het gevaar is dat de schaal waarop een niet-inclusief AI-systeem fouten maakt, veel groter en verstrekkender kan zijn dan bij een menselijke fout. ‘Denk bijvoorbeeld aan de Toeslagenaffaire of aan een saturatiemeter die slechter werkt op een donkere huid. Ondertussen zit AI in steeds meer tools, van een routeplanner tot gezondheidsapps. Tegelijkertijd zijn we ons lang niet altijd bewust van bias en hebben jongeren een kortere concentratiespanne. Mijn zoon van 12 vraagt bijvoorbeeld van alles aan ChatGPT: lekker makkelijk en snel. Maar niet zonder risico.’

Studenten hebben dan ook behoefte aan nieuwe vaardigheden. ‘Denk aan het leren stellen van de goede vragen aan AI, kunnen onderzoeken waarop het antwoord is gebaseerd en kritisch kunnen nadenken over welk perspectief ontbreekt en wie de eigenaar van de gebruikte toepassing is. Dezelfde vraag kan bij verschillende AI-modellen namelijk een ander antwoord opleveren. Achter iedere tool zitten keuzes en belangen.’

Het curriculum moet dus op de schop. ‘De AI-trein is al vertrokken. Over vijf jaar zijn AI en taalmodellen compleet ingeburgerd, net als nu het gebruik van Word, Excel of Google. Het onderwijs moet daarop inspelen en we kunnen niet meer toe met oude wijn in nieuwe zakken. Het heeft weinig zin om met AI sneller een toets te maken als je die vervolgens nog steeds op de oude, tekstgerichte manier aanbiedt. Dan krijg je een gegenereerd resultaat terug om na te kijken. Ook toetsen afnemen met pen en papier in een klaslokaal is geen echte oplossing. In het bedrijfsleven wordt verwacht dat studenten met AI kunnen werken.’

AI-proof onderwijs vraagt ook om een andere manier van toetsen. ‘Minder tekstgericht: denk aan een presentatie waarin de student zijn keuzes toelicht of een debat waardoor de student wordt gedwongen zelf na te denken. Je leert alleen als er frictie ontstaat. Dat gebeurt niet als AI een tekst genereert. Als je zelf schrijft of iets creëert, onthoud je het beter. We weten nog niet of je dommer of slimmer wordt van AI, daarvoor is het te kort op de markt. Maar daarom is het belangrijk dat we er nu al op een verantwoorde manier mee omgaan.’