In opdracht van het Ministerie van Onderwijs, Cultuur en Wetenschap onderzocht Dialogic de impact die de inzet van kunstmatige intelligentie kan hebben op het onderwijs in Nederland. De doelstelling van het onderzoek is het verwerven van inzicht in hoe kunstmatige intelligentie momenteel in het onderwijs wordt gebruikt (en hoe het gebruikt zal gaan worden) (Wat kan er?), en welke juridische aspecten er spelen bij dat gebruik (Wat mag er?). Ook moet het onderzoek de vijf grootste risico’s en kansen die verbonden zijn aan dit gebruik bloot leggen (Wat willen we?).

Wat kan er: wat zijn relevante toepassingen van AI in het onderwijs?

Het is niet eenvoudig om één definitie te geven van AI, specifiek als het gaat om toepassingen in het onderwijs. Uit ons onderzoek komt naar voren dat met name wanneer het gaat om toepassingen die (1) cognitieve taken automatiseren en (2) daarbij gebruik maken van grote hoeveelheden data en datagedreven methoden, er interessante, onopgeloste vraagstukken bestaan.

In het onderwijsproces maken leraren continu naar eigen inzicht beslissingen ten aanzien van (onder andere) de gehanteerde methode, de lesstof, de manier waarop een leerling wordt benaderd, et cetera. Uiteindelijk worden door leraren ook enkele formele beslissingen gemaakt: wat is het rapportcijfer, en mag een kind over naar de volgende klas? AI’s kunnen docenten op verschillende manieren ondersteunen bij deze beslissingen. We onderscheiden een viertal scenario’s als meest waarschijnlijk voor de komende 5-8 jaar: (1) een AI als onderwijsassistent, (2) AI voor learning analytics, (3) AI voor personalisering van het onderwijs, en (4) AI voor toetsing.

Kan AI een docent volledig vervangen? Niet in de nabije toekomst.

Wanneer AI zó slim is geworden dat het de docent kan vervangen, dan zou dat het onderwijs in theorie sterk kunnen verbeteren: iedere leerling kan dan immers ‘privéles’ worden geboden. Zo ver is het echter nog niet: de verwachting is dat dergelijke artificial general intelligence (waarbij een AI het niveau van intelligentie van een mens evenaart) nog minstens enkele decennia op zich laat wachten. Dit neemt echter niet weg dat minder intelligente AI, die vandaag al beschikbaar is, de leraar zodanig kan ondersteunen dat deze meer tijd per leerling kan besteden, of efficiënter te werk kan gaan.

Wat mag er: wat zijn juridische knelpunten bij toepassing van AI in het onderwijs?

Toepassing van AI in het onderwijs raakt aan diverse generieke regelingen. Sommige van die regelingen zijn van aanvullend recht, dat betekent dat daar gemakkelijk en veelal per contract van kan worden afgeweken, zoals bijvoorbeeld de regelingen van het Auteurswet en het Databankenrecht.

De flexibiliteit van genoemde privaatrechtelijke regelingen vindt men veel minder terug in de regelingen van publiekrecht, zoals de regels over openbaarheid en hergebruik van bestuurlijke respectievelijk overheidsinformatie. Toepasselijkheid van deze regelingen kunnen ontwikkelaars ervan weerhouden samenwerkingsverbanden met instellingen aan te gaan als dit zou betekenen dat hun kennis op straat komt te liggen. Aanvullende contracten over intellectuele rechten kunnen hier (gedeeltelijk) de helpende hand bieden. Overigens zal men er daarbij wel voor moeten waken dat samenwerking met marktpartijen uiteindelijk geen machtsposities doen ontstaan die in strijd kunnen zijn met regels over mededinging.

Besluiten die instellingen nemen worden uiteraard volledig beheerst door de algemene regels van het bestuursrecht, waaronder de algemene beginselen van behoorlijk bestuur. Toepassing van deze beginselen op AI-toepassingen kan lastig zijn, omdat deze inherent botsen met de black box die AI nu eenmaal schept. Desondanks lijkt dit geen onoplosbaar probleem te vormen.

De regels over de bescherming van persoonsgegevens (AVG) vormen mogelijk wél een knelpunt. De aard van de persoonsgegevens in het onderwijs en het karakter van AI gaan (juridisch gezien) heel slecht samen, en het lijkt heel moeilijk voorstelbaar dat grootschalige AI toegestaan is zonder wettelijke regeling. Uiteraard verandert dit geheel als de te gebruiken gegevens geen persoonsgegevens meer zijn.

Mocht er wat mis gaan dan lijken er geen noemenswaardige problemen bij de toepassing van de regels over aansprakelijkheid. Dit regime is zeer open en flexibel zodat zij die door AI-toepassingen benadeeld zijn niet op de tocht hoeven te staan.

De onderwijs-specifieke sectorale regels laten op zich veel vrijheid, en lijken niet echt harde verboden te bevatten. Wel zal steeds binnen de geest en letter van de beginselen van onderwijsrecht gehandeld moeten worden. Daar komt nog bij dat de belangen van het kind steeds een centraal en ethisch ijkpunt zullen moeten vormen en de vraag zal steeds zijn of dat met AI het geval is.

In meer praktische zin vormt de sectorale regelgeving wel een obstakel: voor top down sturing op inhoud van onderwijs bestaat geen sterk arrangement, nog afgezien van het feit dat dit heel gevoelig ligt. Ook de beweging van onderaf is een lastige: weliswaar kunnen er bij individuele instellingen initiatieven ontstaan maar het poldermodel en de diversiteit aan verschillende regelingen op het niveau van de instelling zal een grootschalige beweging waarschijnlijk in de weg staan. Dit nog afgezien van de mogelijke aversie van docenten (en instellingen), aan wiens belangen en positie toepassing van AI direct kan raken.

Wat willen we: wat zijn de belangrijkste kansen en risico’s van toepassing van AI in het onderwijs?

Kansen van AI-toepassingen in het onderwijs

Toepassing van AI in het onderwijs biedt, zo volgt uit het onderzoek, mogelijkheden om de volgende positieve effecten te bewerkstelligen:

• Het verminderen van de werkdruk van docenten door toepassing AI ter ondersteu-ning van (administratieve) taken.
• Gepersonaliseerd leren: onderwijs beter laten aansluiten bij de leerling, met zowel betere uitkomsten als een beter leerproces.
• Het ondersteunen van de docent met holistische, onderbouwde inzichten (learning analytics).
• Het verbeteren van de manier van toetsen van kennis.
• Het vergroten van de effectiviteit van digitale leermiddelen, ook in synergie met andere technologieën, zoals VR en serious games.

Risico’s

Uit het onderzoek volgt dat er bij de toepassing van AI in het onderwijs zou kunnen leiden tot de volgende mogelijk negatieve effecten, tenzij hiervoor mitigaties worden ingericht:

• Sommige onderwijsdoelen kunnen door AI in het geding raken, wanneer de focus op techniek en het aspect ‘kennisoverdracht’ te groot is.
• Bias in mensen vertaalt door naar data, die vervolgens wordt overgenomen door AI.
• Een verslechterd vooruitzicht bij ‘docent’ als beroep (voor huidige en toekomstige docenten).
• Afhankelijkheid van black-box modellen (unexplainable AI) versus verantwoorde-lijkheid van de docent.
• Toepassing van AI, terwijl andere basisvoorzieningen nog niet op orde zijn.
• Een machtsverschuiving bij de producenten van lesmateriaal.

Aanbevelingen

Om toepassingen van AI in het onderwijs te stimuleren is er een aantal aspecten waarop beleid kan worden gevormd, en/of waarop beleidsmakers (specifiek het ministerie van OCW) actie kunnen ondernemen:

1. Het stimuleren van acceptatie van AI in het onderwijs door leraar, leerling en ouder.
2. Het vergroten van de digitale vaardigheden van onderwijzend personeel.
3. Het inrichten van een data-infrastructuur.
4. Het faciliteren van experimenten van inzet van AI in het onderwijs.
5. Het stimuleren van een multidisciplinaire aanpak bij de ontwikkeling van AI.
6. Het ontwikkelen van een keurmerk voor verantwoorde toepassing van AI in het onderwijs.
7. Het initiëren van vervolgonderzoek naar AI in het onderwijs.

Wat kan er: wat zijn relevante toepassingen van AI in het onderwijs?

Het is niet eenvoudig om één definitie te geven van AI, specifiek als het gaat om toepassingen in het onderwijs. Uit ons onderzoek komt naar voren dat met name wanneer het gaat om toepassingen die (1) cognitieve taken automatiseren en (2) daarbij gebruik maken van grote hoeveelheden data en datagedreven methoden, er interessante, onopgeloste vraagstukken bestaan.

In het onderwijsproces maken leraren continu naar eigen inzicht beslissingen ten aanzien van (onder andere) de gehanteerde methode, de lesstof, de manier waarop een leerling wordt benaderd, et cetera. Uiteindelijk worden door leraren ook enkele formele beslissingen gemaakt: wat is het rapportcijfer, en mag een kind over naar de volgende klas? AI’s kunnen docenten op verschillende manieren ondersteunen bij deze beslissingen. We onderscheiden een viertal scenario’s als meest waarschijnlijk voor de komende 5-8 jaar: (1) een AI als onderwijsassistent, (2) AI voor learning analytics, (3) AI voor personalisering van het onderwijs, en (4) AI voor toetsing.

Kan AI een docent volledig vervangen? Niet in de nabije toekomst.

Wanneer AI zó slim is geworden dat het de docent kan vervangen, dan zou dat het onderwijs in theorie sterk kunnen verbeteren: iedere leerling kan dan immers ‘privéles’ worden geboden. Zo ver is het echter nog niet: de verwachting is dat dergelijke artificial general intelligence (waarbij een AI het niveau van intelligentie van een mens evenaart) nog minstens enkele decennia op zich laat wachten. Dit neemt echter niet weg dat minder intelligente AI, die vandaag al beschikbaar is, de leraar zodanig kan ondersteunen dat deze meer tijd per leerling kan besteden, of efficiënter te werk kan gaan.

Wat mag er: wat zijn juridische knelpunten bij toepassing van AI in het onderwijs?

Toepassing van AI in het onderwijs raakt aan diverse generieke regelingen. Sommige van die regelingen zijn van aanvullend recht, dat betekent dat daar gemakkelijk en veelal per contract van kan worden afgeweken, zoals bijvoorbeeld de regelingen van het Auteurswet en het Databankenrecht.

De flexibiliteit van genoemde privaatrechtelijke regelingen vindt men veel minder terug in de regelingen van publiekrecht, zoals de regels over openbaarheid en hergebruik van bestuurlijke respectievelijk overheidsinformatie. Toepasselijkheid van deze regelingen kunnen ontwikkelaars ervan weerhouden samenwerkingsverbanden met instellingen aan te gaan als dit zou betekenen dat hun kennis op straat komt te liggen. Aanvullende contracten over intellectuele rechten kunnen hier (gedeeltelijk) de helpende hand bieden. Overigens zal men er daarbij wel voor moeten waken dat samenwerking met marktpartijen uiteindelijk geen machtsposities doen ontstaan die in strijd kunnen zijn met regels over mededinging.

Besluiten die instellingen nemen worden uiteraard volledig beheerst door de algemene regels van het bestuursrecht, waaronder de algemene beginselen van behoorlijk bestuur. Toepassing van deze beginselen op AI-toepassingen kan lastig zijn, omdat deze inherent botsen met de black box die AI nu eenmaal schept. Desondanks lijkt dit geen onoplosbaar probleem te vormen.

De regels over de bescherming van persoonsgegevens (AVG) vormen mogelijk wél een knelpunt. De aard van de persoonsgegevens in het onderwijs en het karakter van AI gaan (juridisch gezien) heel slecht samen, en het lijkt heel moeilijk voorstelbaar dat grootschalige AI toegestaan is zonder wettelijke regeling. Uiteraard verandert dit geheel als de te gebruiken gegevens geen persoonsgegevens meer zijn.

Mocht er wat mis gaan dan lijken er geen noemenswaardige problemen bij de toepassing van de regels over aansprakelijkheid. Dit regime is zeer open en flexibel zodat zij die door AI-toepassingen benadeeld zijn niet op de tocht hoeven te staan.

De onderwijs-specifieke sectorale regels laten op zich veel vrijheid, en lijken niet echt harde verboden te bevatten. Wel zal steeds binnen de geest en letter van de beginselen van onderwijsrecht gehandeld moeten worden. Daar komt nog bij dat de belangen van het kind steeds een centraal en ethisch ijkpunt zullen moeten vormen en de vraag zal steeds zijn of dat met AI het geval is.

In meer praktische zin vormt de sectorale regelgeving wel een obstakel: voor top down sturing op inhoud van onderwijs bestaat geen sterk arrangement, nog afgezien van het feit dat dit heel gevoelig ligt. Ook de beweging van onderaf is een lastige: weliswaar kunnen er bij individuele instellingen initiatieven ontstaan maar het poldermodel en de diversiteit aan verschillende regelingen op het niveau van de instelling zal een grootschalige beweging waarschijnlijk in de weg staan. Dit nog afgezien van de mogelijke aversie van docenten (en instellingen), aan wiens belangen en positie toepassing van AI direct kan raken.

Wat willen we: wat zijn de belangrijkste kansen en risico’s van toepassing van AI in het onderwijs?

Kansen van AI-toepassingen in het onderwijs

Toepassing van AI in het onderwijs biedt, zo volgt uit het onderzoek, mogelijkheden om de volgende positieve effecten te bewerkstelligen:

• Het verminderen van de werkdruk van docenten door toepassing AI ter ondersteu-ning van (administratieve) taken.
• Gepersonaliseerd leren: onderwijs beter laten aansluiten bij de leerling, met zowel betere uitkomsten als een beter leerproces.
• Het ondersteunen van de docent met holistische, onderbouwde inzichten (learning analytics).
• Het verbeteren van de manier van toetsen van kennis.
• Het vergroten van de effectiviteit van digitale leermiddelen, ook in synergie met andere technologieën, zoals VR en serious games.

Risico’s

Uit het onderzoek volgt dat er bij de toepassing van AI in het onderwijs zou kunnen leiden tot de volgende mogelijk negatieve effecten, tenzij hiervoor mitigaties worden ingericht:

• Sommige onderwijsdoelen kunnen door AI in het geding raken, wanneer de focus op techniek en het aspect ‘kennisoverdracht’ te groot is.
• Bias in mensen vertaalt door naar data, die vervolgens wordt overgenomen door AI.
• Een verslechterd vooruitzicht bij ‘docent’ als beroep (voor huidige en toekomstige docenten).
• Afhankelijkheid van black-box modellen (unexplainable AI) versus verantwoorde-lijkheid van de docent.
• Toepassing van AI, terwijl andere basisvoorzieningen nog niet op orde zijn.
• Een machtsverschuiving bij de producenten van lesmateriaal.

Aanbevelingen

Om toepassingen van AI in het onderwijs te stimuleren is er een aantal aspecten waarop beleid kan worden gevormd, en/of waarop beleidsmakers (specifiek het ministerie van OCW) actie kunnen ondernemen:

1. Het stimuleren van acceptatie van AI in het onderwijs door leraar, leerling en ouder.
2. Het vergroten van de digitale vaardigheden van onderwijzend personeel.
3. Het inrichten van een data-infrastructuur.
4. Het faciliteren van experimenten van inzet van AI in het onderwijs.
5. Het stimuleren van een multidisciplinaire aanpak bij de ontwikkeling van AI.
6. Het ontwikkelen van een keurmerk voor verantwoorde toepassing van AI in het onderwijs.
7. Het initiëren van vervolgonderzoek naar AI in het onderwijs.