Möjligheterna och begränsningarna med artificiell intelligens inom utbildning

På uppdrag av Utbildnings-, kultur- och vetenskapsministeriet har Dialogic undersökt vilken inverkan användningen av artificiell intelligens kan ha på utbildningen i Nederländerna. Syftet med undersökningen är att skaffa insikt i hur artificiell intelligens för närvarande används i utbildningen (och hur den kommer att användas i framtiden) (Vad är möjligt?), samt vilka juridiska aspekter som är relevanta vid denna användning (Vad är tillåtet?). Undersökningen syftar också till att avslöja de fem största riskerna och möjligheterna som är förknippade med denna användning (Vad strävar vi efter?).

Vad är möjligt: vilka är relevanta tillämpningar av AI inom utbildningen?

Det är inte enkelt att ge en enda definition av AI, särskilt när det gäller tillämpningar inom utbildningen. Vår undersökning visar att det framförallt finns intressanta, olösta frågor när det gäller tillämpningar som (1) automatiserar kognitiva uppgifter och (2) använder sig av stora mängder data och datadrivna metoder. Det är lärare som kontinuerligt fattar beslut baserade på sitt eget omdöme angående (bland annat) den tillämpade metoden, läromaterialet, sättet att närma sig en elev, etc. Slutligen fattar lärarna även några formella beslut: vilket betyg ska ges och får ett barn gå vidare till nästa klass? AI kan stödja lärarna på olika sätt i dessa beslut. Vi identifierar fyra scenarier som mest troligt de kommande 5-8 åren: (1) en AI som utbildningsassistent, (2) AI för learning analytics, (3) AI för individualisering av utbildningen och (4) AI för bedömning.

Kan en AI ersätta en lärare helt? Inte inom en snar framtid.

Om AI blir tillräckligt intelligent för att kunna ersätta läraren skulle det i teorin kunna förbättra utbildningen avsevärt: varje elev kan då få 'privatundervisning'. Men vi är inte där ännu: det förväntas att sådan artificial general intelligence (när en AI når en mänsklig intelligensnivå) minst tar några decennier att uppnå. Det hindrar dock inte att mindre intelligenta AI, som redan finns tillgängliga idag, kan stödja läraren på ett sådant sätt att denne kan spendera mer tid per elev eller arbeta effektivare.

Vad är tillåtet: vilka juridiska knutar gäller vid tillämpning av AI inom utbildningen?

Tillämpningen av AI inom utbildningen påverkar olika generiska regelverk. Vissa av dessa regler är av dispositiv karaktär, vilket innebär att de enkelt kan varieras och ofta görs så avtal, såsom författarrättslagen och databaselagen. Flexibiliteten i dessa privaträttsliga regler återfinns i mindre utsträckning i de offentligrättsliga reglerna, såsom reglerna om offentlighet och återanvändning av förvaltnings- respektive myndighetsinformation. Tillämpningen av dessa regler kan avskräcka utvecklare från att ingå samarbetsavtal med institutioner om detta skulle innebära att deras kunskap exponeras. Ytterligare avtal om immateriella rättigheter kan delvis ge hjälp i detta avseende. Det är dock viktigt att se till att samarbetet med marknadsaktörer inte leder till etablerande av maktpositioner som strider mot konkurrensregler. Beslut som institutioner fattar omfattas självklart av de allmänna reglerna inom förvaltningsrätten, inklusive de allmänna principerna om god förvaltningssed. Tillämpningen av dessa principer på AI-tillämpningar kan vara komplicerad eftersom de i grunden krockar med den 'black box' som AI naturligt skapar. Trots detta verkar detta inte vara ett olösbart problem. Reglerna om skydd av personuppgifter (GDPR) utgör troligen däremot en knutpunkt. Karakteren av personuppgifter inom utbildningen och AI:s natur går (juridisk sett) inte så bra ihop, vilket gör det mycket svårt att föreställa sig att omfattande AI-tillämpningar tillåts utan lagstadgad reglering. Naturligtvis förändras situationen om de använda uppgifterna inte längre är personuppgifter. Om något går fel verkar det inte finnas några betydande problem med tillämpningen av reglerna om ansvarsskyldighet. Denna regim är mycket öppen och flexibel så att de som skadas av AI-tillämpningar inte behöver stå utan skydd. De sektorspecifika reglerna inom utbildningen ger i sig stor frihet och verkar inte inkludera hårda förbud. Det måste dock alltid handlas i enlighet med andan och bokstaven av utbildningsrättsprinciperna. Dessutom måste barnets intressen alltid vara en central och etisk riktpunkt och frågan kommer alltid att vara om detta är fallet med AI. I praktisk mening utgör sektorsregleringen dock ett hinder: det finns ingen stark styrning på innehållet i utbildningen ovanifrån, vilket dessutom är mycket känsligt. Även rörelsen 'nedifrån och upp' är problematisk: även om initiativ kan uppstå på individuella institutioner, kommer det sannolikt att vara svårt med en omfattande rörelse på grund av poldermodellen och mångfalden av olika regelverk på institutionsnivå. Detta bortsett från eventuell aversion från lärare (och institutioner) vars intressen och position kan påverkas av tillämpningen av AI.

Vad strävar vi efter: vilka är de viktigaste möjligheterna och riskerna med tillämpning av AI inom utbildningen?

Möjligheter med AI-tillämpningar inom utbildningen

Tillämpningen av AI inom utbildningen erbjuder enligt undersökningen möjligheter att åstadkomma följande positiva effekter:

• Att minska lärarnas arbetsbelastning genom att använda AI för att stödja (administrativa) uppgifter.
• Individualiserat lärande: att få utbildningen att bättre anpassa sig till eleverna, vilket leder till både bättre resultat och en bättre läroprocess.
• Att stödja läraren med holistiska, välgrundade insikter (learning analytics).
• Att förbättra sättet att bedöma kunskap.
• Att öka effektiviteten av digitala läromedel, även i samarbete med andra teknologier som VR och serious games.

Risker

Enligt undersökningen kan tillämpningen av AI inom utbildningen leda till följande möjliga negativa effekter, om inte åtgärder planeras för att mildra dem:

• Vissa utbildningsmål kan sättas på spel genom AI om fokus ligger för mycket på teknik och aspekten 'kunskapsöverföring'.
• Bias i människor sätts över i data, som sedan används av AI.
• Försämrad framtid för yrket 'lärare' (för nuvarande och framtida lärare).
• Beroende av black-box-modeller (oexplikabel AI) jämfört med lärarens ansvar.
• Tillämpning av AI samtidigt som andra grundläggande tjänster inte är på plats.
• Ett maktbyte hos producenterna av läromedel.

Rekommendationer

För att främja tillämpningar av AI inom utbildningen finns det flera aspekter inom vilka politik kan utvecklas och/eller där beslutsfattare (särskilt Utbildnings-, kultur- och vetenskapsministeriet) kan agera:

1. Att främja acceptans av AI inom utbildningen bland lärare, elever och föräldrar.
2. Att öka den digitala kompetensen hos undervisande personal.
3. Att etablera en datainfrastruktur.
4. Att underlätta experiment med AI-tillämpningar inom utbildningen.
5. Att främja ett tvärvetenskapligt tillvägagångssätt vid utvecklingen av AI.
6. Att utveckla en certifiering för ansvarsfull tillämpning av AI inom utbildningen.
7. Att initiera fortsatt forskning om AI inom utbildningen.