Le (im)possibilità dell'intelligenza artificiale nell'istruzione

Per conto del Ministero dell'Istruzione, della Cultura e della Scienza, Dialogic ha studiato l'impatto che l'uso dell'intelligenza artificiale può avere sull'istruzione nei Paesi Bassi. L'obiettivo della ricerca è acquisire una comprensione di come attualmente viene utilizzata l'intelligenza artificiale nell'istruzione (e come verrà utilizzata in futuro) (Cosa può fare?), e quali aspetti giuridici sono rilevanti in tale utilizzo (Cosa è permesso?). Inoltre, la ricerca deve mettere in luce i cinque maggiori rischi e opportunità legati a questo utilizzo (Cosa vogliamo?).

Cosa può fare: quali sono le applicazioni rilevanti dell'IA nell'istruzione?

Non è semplice fornire una sola definizione di IA, specialmente quando si tratta delle sue applicazioni nell'istruzione. Dalla nostra ricerca emerge che soprattutto quando si tratta di applicazioni che (1) automatizzano compiti cognitivi e (2) utilizzano grandi quantità di dati e metodi basati sui dati, esistono interessanti questioni irrisolte. Nel processo educativo, gli insegnanti prendono continuamente decisioni in base al loro giudizio su aspetti come il metodo adottato, il materiale didattico, il modo in cui un alunno viene affrontato, eccetera. Alla fine, gli insegnanti prendono anche alcune decisioni formali: qual è il voto, e se un bambino può passare alla classe successiva? L'IA può supportare gli insegnanti in varie modalità durante queste decisioni. Identifichiamo quattro scenari come i più probabili nei prossimi 5-8 anni: (1) un'IA come assistente didattico, (2) IA per analisi dell'apprendimento, (3) IA per la personalizzazione dell'insegnamento e (4) IA per la valutazione.

Può un'IA sostituire completamente un insegnante? Non nel prossimo futuro.

Quando l'IA diventa così intelligente da poter sostituire l'insegnante, teoricamente potrebbe notevolmente migliorare l'istruzione: ogni alunno riceverebbe 'lezioni private'. Ma non siamo ancora a questo punto: si prevede che occorreranno almeno ancora diversi decenni prima che si raggiunga una simile intelligenza artificiale generale (quando un'IA eguaglia il livello di intelligenza umana). Tuttavia, questo non esclude che un'IA meno intelligente, già disponibile oggi, possa supportare l'insegnante in modo che possa dedicare più tempo per alunno o lavorare in modo più efficiente.

Cosa è permesso: quali sono le criticità giuridiche nell'uso dell'IA nell'istruzione?

L'uso dell'IA nell'istruzione coinvolge diverse normative generiche. Alcune di queste normative sono di diritto integrativo, il che significa che possono essere facilmente e spesso derogate per contratto, come ad esempio le normative sul Diritto d'autore e il Diritto dei database. La flessibilità di tali normative di diritto privato non si rispecchia ampiamente nelle normative di diritto pubblico, come le regole sulla trasparenza e il riutilizzo delle informazioni amministrative e pubbliche. L'applicazione di queste normative potrebbe scoraggiare gli sviluppatori dal formare partenariati con istituzioni se ciò comporta la divulgazione delle proprie conoscenze. Accordi addizionali sui diritti di proprietà intellettuale potrebbero offrire un aiuto (parziale) in questo senso. Tuttavia, è essenziale evitare che la collaborazione con le parti del mercato finisca per creare posizioni dominanti che possano essere in conflitto con le regole sulla concorrenza. Le decisioni prese dalle istituzioni sono naturalmente totalmente soggette alle regole generali del diritto amministrativo, compresi i principi generali di buon governo. Applicare questi principi alle applicazioni di IA può essere complicato poiché entrano in conflitto con la 'scatola nera' che l'IA crea. Tuttavia, sembra che questo non costituisca un problema insormontabile. Le normative sulla protezione dei dati personali (GDPR) potrebbero invece rappresentare un ostacolo. La natura dei dati personali nell'istruzione e il carattere dell'IA non si sposano bene legalmente, e sembra difficile immaginare che un'ampia applicazione di IA sia permessa senza una regolamentazione legislativa. Naturalmente, ciò cambia se i dati utilizzati non costituiscono più dati personali. Nel caso di problemi, sembra che non ci siano problemi significativi nell'applicazione delle normative sulla responsabilità. Questo regime è molto aperto e flessibile, in modo che coloro che subiscono danni dalle applicazioni di IA non rimangano in balia della situazione. Le normative specifiche del settore dell'istruzione in sé offrono molta libertà e sembrano non contenere divieti rigidi. Sarà sempre necessario agire nel rispetto dei principi del diritto dell'istruzione. Inoltre, gli interessi del bambino dovrebbero costituire sempre un punto centrale ed etico, chiedendo se ciò sia il caso con l'IA. Dal punto di vista pratico, la regolamentazione settoriale costituisce comunque un ostacolo: non esiste un forte sistema di gestione dell'istruzione dall'alto verso il basso, oltre al fatto che questo è molto delicato. Anche il movimento dal basso è complicato: sebbene possano emergere iniziative in singole istituzioni, il modello della 'concertazione' e la diversità delle varie regolamentazioni a livello istituzionale probabilmente ostacoleranno un movimento su larga scala. Questo senza considerare il possibile dissenso degli insegnanti (e delle istituzioni), i cui interessi e posizioni potrebbero essere direttamente influenzati dall'applicazione dell'IA.

Cosa vogliamo: quali sono le principali opportunità e rischi dell'applicazione dell'IA nell'istruzione?

Opportunità delle applicazioni di IA nell'istruzione

L'applicazione dell'IA nell'istruzione offre, come emerso dalla ricerca, possibilità di ottenere i seguenti effetti positivi:

• Riduzione del carico di lavoro dei docenti attraverso l'uso dell'IA per supportare compiti (amministrativi).
• Apprendimento personalizzato: far coincidere meglio l'istruzione con l'alunno, con migliori risultati e un processo di apprendimento migliorato.
• Supportare i docenti con approfonditi insights olistici (analisi dell'apprendimento).
• Miglioramento delle modalità di valutazione delle conoscenze.
• Aumento dell'efficacia dei mezzi didattici digitali, anche in sinergia con altre tecnologie come la realtà virtuale e giochi seri.

Rischi

Dalla ricerca emerge che l'applicazione dell'IA nell'istruzione potrebbe portare ai seguenti possibili effetti negativi, a meno che non siano introdotte mitigazioni:

• Alcuni obiettivi educativi potrebbero esserne compromessi, se l'attenzione sulla tecnologia e sull'aspetto del 'trasferimento di conoscenze' è eccessiva.
• I bias nell'essere umano si riflettono nei dati, che vengono quindi assorbiti dall'IA.
• Una prospettiva peggiorata per la professione di 'docente' (per gli attuali e futuri insegnanti).
• Dipendenza da modelli black-box (IA non spiegabile) rispetto alla responsabilità del docente.
• Applicazione dell'IA mentre altre infrastrutture di base non sono ancora pronte.
• Uno spostamento di potere verso i produttori di materiale didattico.

Raccomandazioni

Per promuovere l'applicazione dell'IA nell'istruzione, ci sono diversi aspetti su cui formulare politiche e/o sui quali i decisori politici (in particolare il Ministero dell'Istruzione, della Cultura e della Scienza) possono agire:

1. Stimolare l'accettazione dell'IA nell'istruzione da parte di docenti, alunni e genitori.
2. Aumentare le competenze digitali del personale insegnante.
3. Istituire un'infrastruttura dati.
4. Facilitare gli esperimenti di utilizzo dell'IA nell'istruzione.
5. Promuovere un approccio multidisciplinare nello sviluppo dell'IA.
6. Sviluppare un logo per l'applicazione responsabile dell'IA nell'istruzione.
7. Avviare ulteriori ricerche sull'IA nell'istruzione.