Denne teksten er automatisk oversatt og kan derfor avvike fra originalen. Ingen rettigheter kan utledes fra denne oversettelsen.
På oppdrag fra Kunnskapsdepartementet gjennomførte Dialogic en undersøkelse av hvilken innvirkning bruk av kunstig intelligens kan ha på utdanningen i Nederland. Målet med undersøkelsen er å skaffe innsikt i hvordan kunstig intelligens for øyeblikket brukes i utdanningen (og hvordan det vil bli brukt) (Hva er mulig?), og hvilke juridiske aspekter som spiller inn ved denne bruken (Hva er tillatt?). Undersøkelsen skal også avdekke de fem største risikoene og mulighetene som er knyttet til denne bruken (Hva ønsker vi?).
I utdanningsprosessen tar lærere kontinuerlig beslutninger basert på eget skjønn angående (blant annet) metoden som brukes, lærestoffet, måten en elev blir tilnærmet på, osv. Til slutt blir det også tatt noen formelle beslutninger av lærerne: hva blir karakteren, og kan et barn gå videre til neste klasse? AI-er kan støtte lærere på ulike måter med slike beslutninger. Vi identifiserer fire scenarioer som mest sannsynlig de neste 5-8 årene: (1) en AI som utdanningsassistent, (2) AI for læring analytics, (3) AI for personalisering av utdanningen, og (4) AI for testing.
Den fleksibiliteten som finnes i de nevnte privatrettslige reglene er mye mindre tydelig i reglene innenfor offentlig rett, som regler om offentlighet og gjenbruk av henholdsvis forvaltnings- og offentlig informasjon. Anvendelsen av disse reglene kan hindre utviklere fra å gå inn i samarbeid med institusjoner hvis det betyr at deres kunnskap blir offentlig tilgjengelig. Tilleggsavtaler om intellektuelle rettigheter kan delvis bidra til dette. Imidlertid må man samtidig være forsiktig med at samarbeid med markedsaktører til slutt ikke skaper maktposisjoner som er i strid med konkurranse-reglene.
Beslutninger som institusjoner tar er selvfølgelig fullstendig styrt av de generelle reglene i forvaltningsretten, inkludert prinsippene for god forvaltningsskikk. Å anvende disse prinsippene på AI-applikasjoner kan være problematisk, fordi de kolliderer med den "black box"-naturen som AI skaper. Likevel ser det ut til at dette ikke utgjør et uløselig problem.
Reglene om beskyttelse av personopplysninger (GDPR) kan imidlertid være et hinder. Naturen av personopplysningene i utdanningen og karakteren av AI passer (juridisk sett) veldig dårlig sammen, og det virker svært vanskelig å forestille seg at omfattende bruk av AI vil være tillatt uten lovgivningsmessig regulering. Dette endres naturligvis helt hvis dataene som brukes ikke lenger er personopplysninger.
Hvis noe går galt, ser det ut til at det ikke er vesentlige problemer med å anvende reglene om ansvar. Dette regimet er veldig åpent og fleksibelt, slik at de som blir skadelidende av AI-applikasjoner ikke blir sittende igjen uten rettigheter.
De sektorspesifikke reglene innen utdanningen gir i seg selv mye frihet, og ser ikke ut til å inneholde harde forbud. Imidlertid må man alltid handle i tråd med prinsippene innenfor utdanningsretten, og hensynet til barnets interesser må alltid være et sentralt etisk punkt, hvor spørsmålet vil være om dette er tilfelle med AI.
På et mer praktisk plan utgjør sektorspesifikk lovgivning et hinder: det finnes ingen sterk ordning for top-down styring av utdanningens innhold, og dette ligger veldig sensitivt. Bevegelsen nedenfra er også vanskelig: selv om det kan oppstå initiativer ved individuelle institusjoner, vil poldermodellen og mangfoldet av ulike regelverk på institusjonsnivå sannsynligvis hindre en omfattende bevegelse. Dette uavhengig av den mulige motviljen fra lærere (og institusjoner), hvis interesser og posisjon kan berøres direkte av anvendelsen av AI.
Hva er mulig: Hva er relevante bruksområder for AI i utdanningen?
Det er ikke enkelt å gi én definisjon av AI, spesielt når det gjelder bruken i utdanningen. Vår forskning viser at spesielt når det gjelder bruksområder som (1) automatiserer kognitive oppgaver og (2) bruker store mengder data og datastyrte metoder, så finnes det interessante, uløste spørsmål. Bilde:
I utdanningsprosessen tar lærere kontinuerlig beslutninger basert på eget skjønn angående (blant annet) metoden som brukes, lærestoffet, måten en elev blir tilnærmet på, osv. Til slutt blir det også tatt noen formelle beslutninger av lærerne: hva blir karakteren, og kan et barn gå videre til neste klasse? AI-er kan støtte lærere på ulike måter med slike beslutninger. Vi identifiserer fire scenarioer som mest sannsynlig de neste 5-8 årene: (1) en AI som utdanningsassistent, (2) AI for læring analytics, (3) AI for personalisering av utdanningen, og (4) AI for testing.
Kan AI erstatte en lærer helt? Ikke i nær fremtid.Når AI har blitt så smart at den kan erstatte læreren, kan det i teorien sterkt forbedre utdanningen: hver elev kan da få "privatundervisning". Men vi er ikke der ennå: forventningen er at slik artificial general intelligence (hvor en AI matcher intelligensnivået til et menneske) ennå vil ta flere tiår å utvikle. Dette betyr imidlertid ikke at mindre intelligente AI, som allerede er tilgjengelig i dag, ikke kan støtte læreren på en måte som gir mer tid per elev, eller gjør læreren mer effektiv.
Hva er tillatt: Hva er de juridiske utfordringene ved bruk av AI i utdanningen?
Bruken av AI i utdanningen berører ulike generelle regler. Noen av disse reglene er av supplerende rett, noe som betyr at de enkelt kan fravikes, vanligvis per kontrakt, som for eksempel reglene i Åndsverkloven og Databaseloven. Bilde:
Den fleksibiliteten som finnes i de nevnte privatrettslige reglene er mye mindre tydelig i reglene innenfor offentlig rett, som regler om offentlighet og gjenbruk av henholdsvis forvaltnings- og offentlig informasjon. Anvendelsen av disse reglene kan hindre utviklere fra å gå inn i samarbeid med institusjoner hvis det betyr at deres kunnskap blir offentlig tilgjengelig. Tilleggsavtaler om intellektuelle rettigheter kan delvis bidra til dette. Imidlertid må man samtidig være forsiktig med at samarbeid med markedsaktører til slutt ikke skaper maktposisjoner som er i strid med konkurranse-reglene.
Beslutninger som institusjoner tar er selvfølgelig fullstendig styrt av de generelle reglene i forvaltningsretten, inkludert prinsippene for god forvaltningsskikk. Å anvende disse prinsippene på AI-applikasjoner kan være problematisk, fordi de kolliderer med den "black box"-naturen som AI skaper. Likevel ser det ut til at dette ikke utgjør et uløselig problem.
Reglene om beskyttelse av personopplysninger (GDPR) kan imidlertid være et hinder. Naturen av personopplysningene i utdanningen og karakteren av AI passer (juridisk sett) veldig dårlig sammen, og det virker svært vanskelig å forestille seg at omfattende bruk av AI vil være tillatt uten lovgivningsmessig regulering. Dette endres naturligvis helt hvis dataene som brukes ikke lenger er personopplysninger.
Hvis noe går galt, ser det ut til at det ikke er vesentlige problemer med å anvende reglene om ansvar. Dette regimet er veldig åpent og fleksibelt, slik at de som blir skadelidende av AI-applikasjoner ikke blir sittende igjen uten rettigheter.
De sektorspesifikke reglene innen utdanningen gir i seg selv mye frihet, og ser ikke ut til å inneholde harde forbud. Imidlertid må man alltid handle i tråd med prinsippene innenfor utdanningsretten, og hensynet til barnets interesser må alltid være et sentralt etisk punkt, hvor spørsmålet vil være om dette er tilfelle med AI.
På et mer praktisk plan utgjør sektorspesifikk lovgivning et hinder: det finnes ingen sterk ordning for top-down styring av utdanningens innhold, og dette ligger veldig sensitivt. Bevegelsen nedenfra er også vanskelig: selv om det kan oppstå initiativer ved individuelle institusjoner, vil poldermodellen og mangfoldet av ulike regelverk på institusjonsnivå sannsynligvis hindre en omfattende bevegelse. Dette uavhengig av den mulige motviljen fra lærere (og institusjoner), hvis interesser og posisjon kan berøres direkte av anvendelsen av AI.
Hva ønsker vi: Hva er de viktigste mulighetene og risikoene ved anvendelse av AI i utdanningen?
Muligheter med AI-applikasjoner i utdanningen
Anvendelser av AI i utdanningen gir, som det kommer frem i undersøkelsen, muligheter for å oppnå følgende positive effekter:- Redusere lærernes arbeidsbelastning ved å bruke AI for å støtte (administrative) oppgaver.
- Personalisert læring: tilpasse utdanningen bedre til eleven, med bedre resultater og bedre læringsprosess.
- Støtte læreren med helhetlige, underbygde innsikter (learning analytics).
- Forbedre måten kunnskap blir testet på.
- Øke effektiviteten av digitale læremidler, også i samspill med andre teknologier, som VR og seriøse spill.
Risikoer
Undersøkelsen viser at anvendelsen av AI i utdanningen kan føre til følgende mulige negative effekter, med mindre tiltak for å håndtere disse blir iverksatt:- Noen utdanningsmål kan settes i fare av AI, når fokuset på teknologi og "kunnskapsoverføring" er for stort.
- Forutinntatte holdninger hos mennesker blir gjenspeilet i data, som deretter blir overtatt av AI.
- Dårligere utsikter for yrket "lærer" (for nåværende og framtidige lærere).
- Avhengighet av "black box"-modeller (uforklarlig AI) versus lærerens ansvarlighet.
- Anvendelse av AI før andre grunnleggende forutsetninger er på plass.
- En maktoverføring til produsentene av læremateriell.
Anbefalinger
For å stimulere anvendelser av AI i utdanningen er det flere aspekter hvor det kan dannes politikk, og/eller hvor beslutningstakere (spesielt Kunnskapsdepartementet) kan handle:- Stimulere aksept av AI i utdanningen blant lærere, elever og foreldre.
- Øke digital kompetanse blant undervisningspersonell.
- Etablere en datainfrastruktur.
- Fasilitere eksperimenter med bruk av AI i utdanningen.
- Oppmuntre til en tverrfaglig tilnærming i utviklingen av AI.
- Utvikle et kvalitetsstempel for ansvarlig bruk av AI i utdanningen.
- Starte oppfølgingsundersøkelser om AI i utdanningen.
