Mulighederne (og udfordringerne) ved kunstig intelligens i uddannelsessektoren

På vegne af Undervisnings-, Kultur- og Videnskabsministeriet har Dialogic undersøgt, hvilken indvirkning brugen af kunstig intelligens kan have på undervisningen i Holland. Formålet med undersøgelsen er at opnå forståelse for, hvordan kunstig intelligens i øjeblikket anvendes (og hvordan det forventes at blive brugt) i undervisningen (Hvad er muligt?), samt hvilke juridiske aspekter der er involveret i denne brug (Hvad er tilladt?). Undersøgelsen bør også afdække de fem største risici og muligheder forbundet med denne brug (Hvad ønsker vi?).

Hvad er muligt: hvilke relevante anvendelser af AI findes i undervisningen?

Det er ikke nemt at give én definition af AI, specielt når det gælder anvendelser i undervisningen. Vores undersøgelse viser, at der især eksisterer interessante, uløste spørgsmål, når det drejer sig om anvendelser, der (1) automatiserer kognitive opgaver og (2) bruger store mængder data og data-drevne metoder. I undervisningsprocessen træffer lærere løbende beslutninger med hensyn til (blandt andet) den anvendte metode, undervisningsmaterialet, tilgangen til en elev osv. På et tidspunkt træffer lærerne også formelle beslutninger: hvad er karakteren, og må et barn rykke op til næste klasse? AI'er kan støtte lærerne på forskellige måder i disse beslutninger. Vi identificerer fire scenarier som mest sandsynlige de kommende 5-8 år: (1) en AI som undervisningsassistent, (2) AI til læringanalyse, (3) AI til individualisering af undervisningen og (4) AI til prøver.

Kan AI fuldstændigt erstatte en lærer? Ikke i den nære fremtid.

Når AI er blevet så intelligent, at den kan erstatte læreren, kan det i teorien markant forbedre undervisningen: hver elev kan således tilbydes 'privatundervisning'. Det er dog ikke tilfældet endnu: forventningen er, at sådan en kunstig generel intelligens (hvor en AI matcher intelligensniveauet hos et menneske) vil tage mindst flere årtier. Dette betyder dog ikke, at mindre intelligente AI, som allerede er tilgængelig i dag, ikke kan støtte læreren på en måde, så denne kan bruge mere tid på hver elev eller arbejde mere effektivt.

Hvad er tilladt: hvilke juridiske knudepunkter er der ved anvendelse af AI i undervisningen?

Anvendelsen af AI i undervisningen berører forskellige generelle regler. Nogle af disse regler er supplerende, hvilket betyder, at de let og ofte kan afviges fra ved kontrakt, såsom reglerne i Ophavsretsloven og Databaseloven. Fleksibiliteten i disse privatretlige regler ses langt mindre i reglerne for offentligret, såsom reglerne om offentliggørelse og genbrug af henholdsvis administrative og statslige oplysninger. Anvendelse af disse regler kan afholde udviklere fra at indgå samarbejdsaftaler med institutioner, hvis det betyder, at deres viden bliver offentlig. Yderligere kontrakter om intellektuelle rettigheder kan delvist hjælpe her. Dog bør man være opmærksom på, at samarbejde med privatparter ikke ender med at skabe magtpositioner, som kan være i strid med konkurrencereglerne. Beslutninger, som institutioner træffer, er naturligvis fuldt ud underlagt de generelle regler for forvaltningsret, herunder de generelle god forvaltningsskik. Anvendelsen af disse principper på AI-applikationer kan være vanskelig, da de indbyrdes modvirker den black box, som AI skaber. Ikke desto mindre ser det ikke ud til at udgøre et uløseligt problem. Reglerne om beskyttelse af persondata (GDPR) udgør dog muligvis en knudepunkt. Artet af persondata i undervisningen og karakteren af AI passer (juridisk set) ikke godt sammen, og det virker meget vanskeligt at forestille sig, at omfattende brug af AI tillades uden lovgivningsmæssig regulering. Dette ændres selvfølgelig, hvis de anvendte data ikke længere er persondata. Hvis noget går galt, ser det ikke ud til at være nogen betydelige problemer ved anvendelsen af regler om ansvar. Dette regime er meget åbent og fleksibelt, så de, der lider skade på grund af AI-applikationer, ikke bør stå uden retssikkerhed. De sektorspecifikke regler for undervisning giver generelt stor frihed, og synes ikke at indeholde hårde forbud. Dog skal man altid handle i overensstemmelse med ånden og bogstavet af undervisningsretsprincipperne. Dertil kommer, at hensynet til barnet altid skal udgøre et centralt og etisk pejlemærke, og spørgsmålet vil altid være, om det er tilfældet med AI. I mere praktisk forstand udgør sektorreguleringen dog en hindring: der findes ingen stærk mekanisme til top-down styring af undervisningens indhold, hvilket er meget følsomt. Det er også vanskeligt med en bevægelse nedefra: selvom der kan opstå initiativer på individuelle institutioner, vil modellen med forskellige regler på institutionsniveau sandsynligvis forhindre en omfattende bevægelse. Dette lige millioner om mulig modvilje fra lærere (og institutioner), hvis interesser og position kan blive direkte berørt af AI's anvendelse.

Hvad ønsker vi: hvilke vigtigste muligheder og risici er der ved anvendelse af AI i undervisningen?

Muligheder ved AI-applikationer i undervisningen

Brugen af AI i undervisningen tilbyder ifølge undersøgelsen muligheder for at opnå følgende positive virkninger:

• Nedsættelse af lærernes arbejdspres ved at bruge AI til at støtte (administrative) opgaver.
• Personaliseret læring: gøre undervisningen bedre tilpasset eleven, med både bedre resultater og en bedre læringsproces.
• Støtte læreren med helhedsorienterede, velbegrundede indsigter (læringanalyse).
• Forbedring af måden hvorpå viden testes.
• Øge effektiviteten af digitale læremidler, også i samspil med andre teknologier såsom VR og serious games.

Risici

Undersøgelsen indikerer, at anvendelsen af AI i undervisningen kan have følgende potentielt negative virkninger, medmindre der implementeres foranstaltninger:

• Nogle undervisningsmål kan komme i fare pga. AI, når fokus på teknik og aspektet 'vidensoverførsel' bliver for stort.
• Forudindtagethed hos mennesker oversættes til data, som derefter overtages af AI.
• En forringet fremtid for 'lærer'-professionen (for nuværende og kommende lærere).
• Afhængighed af black-box modeller (uforklarlig AI) kontra lærerens ansvarlighed.
• Anvendelse af AI, mens andre grundlæggende foranstaltninger endnu ikke er på plads.
• Et skift i magtbalancen blandt producenter af undervisningsmateriale.

Anbefalinger

For at fremme anvendelsen af AI i undervisningen er der en række aspekter, hvorpå politik kan formes, og/eller hvor beslutningstagere (især Undervisnings-, Kultur- og Videnskabsministeriet) kan handle:

1. At fremme accept af AI i undervisningen hos lærere, elever og forældre.
2. At øge det pædagogiske personales digitale færdigheder.
3. At etablere en datainfrastruktur.
4. At faciliterer eksperimenter med brugen af AI i undervisningen.
5. At fremme en tværfaglig tilgang til udviklingen af AI.
6. At udvikle et mærke for ansvarlig anvendelse af AI i undervisningen.
7. At igangsætte yderligere undersøgelser om AI i undervisningen.