De risico’s van het gebruik van algoritmen in het onderwijs
Algoritmen worden steeds vaker ingezet om taken te automatiseren in verschillende sectoren, waaronder het onderwijs, maar wat doen deze algoritmen precies? Een algoritme is een procedure die wordt gebruikt om een probleem op te lossen of een berekening uit te voeren in een geautomatiseerd proces. Door gebruik te maken van data kunnen algoritmen geautomatiseerde beslissingen nemen of voorspellingen doen. In het primair en voortgezet onderwijs worden algoritmen vooral ingezet in adaptieve leersystemen, die de lesstof aanpassen aan het niveau van de leerling.
Voordelen van algoritmen in het onderwijs
Een voordeel van het gebruik van algoritmen is dat deze ertoe leiden dat taken efficiënter kunnen worden uitgevoerd. Algoritmen kunnen administratieve taken deels overnemen en daarmee de werkdruk van leerkrachten verlichten. Adaptieve leersystemen kunnen gemakkelijk gepersonaliseerde leerroutes voor leerlingen creëren, zonder dat de leerkracht dit handmatig voor elke individuele leerling hoeft te doen.
Risico’s op discriminatie en kansenongelijkheid
Het gebruik van algoritmen in het onderwijs brengt echter ook risico’s met zich mee. Zo blijkt uit een onderzoek in opdracht van het College voor de Rechten van de Mens dat algoritmen kunnen leiden tot discriminatie en kansenongelijkheid. Deze risico’s ontstaan door ‘bias’ in de data waarmee de algoritmen zijn getraind en door de manier waarop de algoritmen zijn geprogrammeerd. Als een algoritme onvoldoende rekening houdt met de achtergrond of specifieke kenmerken van bepaalde groepen, zoals culturele minderheidsgroepen, tweetalige leerlingen, en leerlingen met beperkingen (zoals autisme, ADHD, of dyslexie), kunnen deze risico’s optreden. Het is dus cruciaal dat leerkrachten de uitkomsten van algoritmen controleren om deze ‘biases’ te identificeren en te corrigeren.
Risico op schending van privacy
Een ander significant risico van het gebruik van algoritmen binnen het onderwijs is dat de privacy van leerlingen onvoldoende is gewaarborgd. Vaak worden leerlingen onvoldoende geïnformeerd over welke data wordt verzameld en hoe deze data wordt gebruikt. Het gebruik van data en profielen zonder duidelijkheid over wat de data wel en niet betekenen en welke conclusies uit de data worden getrokken mogen worden, vergroot het risico op onrechtvaardige behandeling van leerlingen.
Conclusie
Het gebruik van algoritmen in het onderwijs biedt kansen om leerkrachten te ondersteunen, maar ze kunnen nooit volledig menselijke tussenkomst vervangen. Het gebruik van adaptieve leersystemen kan handig zijn, maar het is belangrijk dat leerkrachten altijd de resultaten van de leerlingen blijven controleren. Alleen door de menselijke maat te behouden, kunnen we de risico’s van algoritmen minimaliseren en de voordelen maximaliseren.