Het onderwijs staat op het punt om radicale veranderingen te ondergaan. Net als bij veel andere maatschappelijke instituties worden die veranderingen gedreven door de grote verwachtingen over de analyse van gedragsdata. Kenmerk van die analyse is dat ze voorspellingen mogelijk maakt die gaandeweg beter worden. Dit ‘leerproces’ is eigen aan machinaal leren, een sub-discipline van de computerwetenschappen die voor een revolutie heeft gezorgd binnen de kunstmatige intelligentie.
Wat gebeurt er als machines ons helpen bij het leren?
Machinaal leren houdt in dat computersystemen door een voortdurende aanvoer van machinaal leesbare gegevens patronen ontdekken en testen. Daardoor kunnen ze bijvoorbeeld natuurlijke taal snel en correct vertalen, objecten of gezichten in plaatjes herkennen, energiegebruik van een bepaald huishouden of weer- en klimaatveranderingen voorspellen.
Intussen wordt deze technologie gebruikt om inzicht te verkrijgen in de leerprestaties van mensen, vooral in het onderwijs. Dat gebeurt door verzamelen, analyseren en interpreteren van data (learning analytics), een betrekkelijk nieuwe ontwikkeling die interessant en tegelijk hachelijk is. Immers, wat gebeurt er met ons menselijk leervermogen als machines - computersystemen - leren hoe wij leren en ons daarbij gaan helpen? Hebben wij wel voldoende inzicht in hoe machines leren? En kunnen wij bepalen of de gedane voorspellingen juist zijn en of het ondervangen van gedrag eventueel leidt tot ongewenste discriminatie of stigmatisering?
Mijn stelling is dat wij - en met name onze kinderen - op het punt staan andere mensen te worden, omdat zij anders gaan leren en daarmee op een andere manier hun identiteit ontwikkelen. Dat is op zichzelf geen reden tot zorg. Integendeel, het toont nog maar eens dat de mens het vermogen heeft om in te spelen op zijn omgeving en om zichzelf tijdens dat proces voortdurend bij te schaven of zelfs opnieuw uit te vinden. Echter, onderwijs is een belangrijke factor bij het ontwikkelen van individuele identiteit en democratische gemeenschapszin. Beiden zijn gebaat bij de ontwikkeling van het vermogen tot kritische reflectie, wederzijds respect en creatieve omgang met onzekerheid. De vraag is of en vooral hoe machinaal leren ons daarbij kan helpen.
Bescherm de privacy van kinderen
We moeten de privacy van onze kinderen beschermen, in den brede en diepe zin van ‘de vrijheid van onredelijke beperkingen op de constructie van een eigen identiteit’. Het is daarom cruciaal dat we voorkomen dat kinderen door cognitieve computers worden getraind om zo snel en zo hoog mogelijk op toetsen te scoren.
Tot dat laatste worden zij vaak gedwongen doordat onderwijsinstellingen er baat bij hebben hun eigen prestaties in machinaal leesbare termen telkenmale te verhogen. Omdat verzamelen, analyseren en interpreteren van data over studenten in het onderwijs onbewust gevormde en diep verankerde leergewoonten in kaart kan brengen, gaat de inmenging hier veel verder dan het delen van bepaalde datapunten.
Het gaat hier in feite om de grens tussen manipulatie van onze leerprocessen en productieve interactie met machinaal lerende systemen die het inzicht in de eigen leerprocessen vergroot. Dat laatste verkleint onze autonomie niet, maar kan juist helpen om gewoonten te doorbreken die het eigen leerproces in de weg staan. Helaas zal de verleiding groot zijn om kinderen de goede kant op te duwen zodat het brave en productieve burgers worden, gewend als ze zijn dat zelfs hun leergedrag voortdurend wordt gemeten, beoordeeld en bijgestuurd.
Maatregelen om manipulatie te voorkomen
Om ervoor te zorgen dat onze kinderen niet al te brave burgers worden, is een serieuze bezinning nodig op de doelen en methoden van het door de overheid gegarandeerde onderwijs. Daarnaast is er een aantal praktische maatregelen nodig om te voorkomen dat gegevens voor het beïnvloeden van leerprocessen worden ingezet voordat we goed en wel doorhebben of dat manipulatie mogelijk maakt.
Ten eerste zouden we in de context van het onderwijs geen ketenpseudoniem moeten invoeren, zoals voorgesteld in het wetsvoorstel pseudonymiseren leerlinggegevens, voor de toegang en het gebruik van digitale leermiddelen. Het is technisch haalbaar om voor ieder gebruik en hergebruik een ander pseudoniem te verstrekken, gekoppeld aan een duidelijk, begrijpelijk en natuurlijk legitiem doel. Daarmee wordt voorkomen dat gegevens die door allerlei private partijen worden verwerkt bij elkaar kunnen worden gelegd voor het fabriceren van alomvattende profielen van leerlingen, om die uiteindelijk te gelde te maken.
Ten tweede is het zaak om goed doordachte standaardwaarden (default settings) te ontwerpen voor de inzage in leerlingvolgsystemen door docent, administratie, schoolleiding, inspectie, aanbieders en distributeurs van leermiddelen en leeromgevingen en vooral ook voor ouders en kind of voor de student.
Ten derde hoort daarbij een systeem waarbij te allen tijde kan worden achterhaald wie wanneer voor welk doel inzage in welke gegevens had (secure logging). Denk alleen al aan de gegevensstromen die met een ebook mogelijk worden. Iedere ‘leesbeweging’ kan worden opgeslagen, samengevoegd en vergeleken met leerprestaties, verzuimgedrag en zo meer.
Ten vierde is cruciaal dat openbronsoftware (open source software) of andere vormen van controle worden ingebouwd, zodat tot in de haarvaten van deze systemen kan worden nagegaan welke leerdoelen de elektronische leeromgevingen hoe nastreven. Ofwel, wat leeromgevingen doen, hoe ze werken, en welke wisselwerking ze kiezen tussen snelheid, efficiency en effectiviteit. Het zijn precies die wisselwerkingen, deels gestuurd door economische incentives, die bepalen hoe betrouwbaar de nieuwe leeromgevingen ten slotte zijn.
Mireille Hildebrandt is jurist en filosoof. Zij is hoogleraar aan rechtenfaculteit van de Vrije Universiteit Brussel en hoogleraar aan de afdeling computerwetenschappen van de Radboud Universiteit Nijmegen. Dit artikel is een verkorte versie van De Privacyrede die Hildebrand op 6 september uitsprak in het Academiegebouw van de Universiteit Utrecht. De Privacyrede is een samenwerking van Studium Generale, SETUP en SURF.
Foto: Jimmy Hilario (Flickr Creative Commons)