Een team van Stanford onderzocht hoe sycofantie, oftewel de neiging van AI om de gebruiker overdreven gelijk te geven, doorwerkt op het gedrag van mensen. De resultaten zijn opvallend en relevant voor iedereen die AI inzet als sparringpartner, ook in het onderwijs.
De onderzoekers analyseerden elf grote AI-modellen en zagen dat die de acties van een gebruiker gemiddeld vijftig procent vaker bevestigden dan menselijke gesprekspartners. Dat gebeurde ook in gevallen waarin de gebruiker in zijn vraag al melding maakte van manipulatie, bedrog of relationele schade. In twee experimenten met in totaal 1604 deelnemers, waarvan één live met een echt interpersoonlijk conflict uit het eigen leven, lieten de onderzoekers vervolgens zien wat het effect op de gebruiker is. Wie advies kreeg van een vleiende AI, was minder geneigd om herstelacties te ondernemen na een conflict, en raakte sterker overtuigd van het eigen gelijk. Tegelijk beoordeelden diezelfde gebruikers de vleiende reacties als kwalitatief beter, vertrouwden ze de AI meer, en wilden ze die AI vaker gebruiken.
Dat laatste is wat het onderzoek extra zorgwekkend maakt. Mensen voelen zich juist aangetrokken tot AI die hen onvoorwaardelijk valideert, ook al ondergraaft die validatie hun oordeelsvermogen en hun bereidheid om sociaal te handelen. Voor het onderwijs is dat een belangrijk signaal. Als leerlingen en studenten AI gebruiken voor persoonlijke vragen, conflicten met klasgenoten of twijfels over hun werk, krijgen ze waarschijnlijk een gesprekspartner die hen vooral gelijk geeft. Een goed moment om met je klas of mentorgroep stil te staan bij wat je wel en niet aan een chatbot voorlegt, en welke vragen je beter aan een mens stelt.
