Les possibilités de l'intelligence artificielle dans l'éducation

Pour le compte du Ministère de l'Éducation, de la Culture et des Sciences, Dialogic a examiné l'impact que l'utilisation de l'intelligence artificielle peut avoir sur l'éducation aux Pays-Bas. L'objectif de la recherche est d'acquérir une compréhension de l'utilisation actuelle (et future) de l'intelligence artificielle dans l'éducation (Qu'est-ce qu'il est possible de faire ?), ainsi que des aspects juridiques associés à cette utilisation (Qu'est-ce qui est autorisé ?). En outre, la recherche devrait mettre en lumière les cinq plus grands risques et opportunités liés à cette utilisation (Qu'est-ce que nous voulons ?).

Qu'est-ce qu'il est possible de faire : quelles sont les applications pertinentes de l'IA dans l'éducation ?

Il n'est pas simple de donner une définition unique de l'IA, en particulier en ce qui concerne les applications dans l'éducation. Notre recherche révèle que, en particulier lorsqu'il s'agit d'applications qui (1) automatisent les tâches cognitives et (2) utilisent de grandes quantités de données et des méthodes axées sur les données, des problèmes intéressants et non résolus se posent. Dans le processus éducatif, les enseignants prennent continuellement des décisions en fonction de leur propre jugement (notamment) sur la méthode utilisée, le matériel pédagogique, la façon d'aborder un élève, etc. En fin de compte, les enseignants prennent également quelques décisions formelles : quelle sera la note, et un enfant peut-il passer à la classe suivante ? Les IA peuvent aider les enseignants de différentes manières dans ces décisions. Nous identifions quatre scénarios comme étant les plus probables pour les 5 à 8 prochaines années : (1) une IA comme assistant d'enseignement, (2) IA pour l'analyse de l'apprentissage, (3) IA pour la personnalisation de l'éducation et (4) IA pour l'évaluation.

Une IA peut-elle remplacer complètement un enseignant ? Pas dans un avenir proche.

Si l'IA devient assez intelligente pour remplacer l'enseignant, cela pourrait théoriquement améliorer considérablement l'enseignement : chaque élève pourrait alors recevoir un « cours privé ». Cependant, nous n'en sommes pas là : on s'attend à ce que cette intelligence artificielle générale (où une IA égale le niveau d'intelligence d'un être humain) prenne encore au moins quelques décennies. Cela dit, une IA moins intelligente, disponible dès aujourd'hui, peut soutenir les enseignants de manière à ce qu'ils puissent consacrer plus de temps à chaque élève ou travailler de manière plus efficace.

Qu'est-ce qui est autorisé : quels sont les problèmes juridiques liés à l'application de l'IA dans l'éducation ?

L'application de l'IA dans l'éducation touche à diverses réglementations génériques. Certaines de ces réglementations relèvent du droit complémentaire, ce qui signifie qu'il est facile de s'en détacher, souvent par contrat, comme par exemple les réglementations du droit d'auteur et du droit des bases de données. La flexibilité de ces réglementations de droit privé susmentionnées est beaucoup moins présente dans les réglementations de droit public, telles que les règles sur la transparence et la réutilisation de l'information administrative respectivement publique. L'application de ces règles peut dissuader les développeurs de conclure des partenariats avec des institutions si cela signifie que leurs connaissances sont exposées. Des contrats supplémentaires sur les droits intellectuels peuvent alors apporter une aide (partielle). Cependant, il convient de veiller à ce que la collaboration avec des partenaires commerciaux ne crée pas de positions de pouvoir contraires aux règles de concurrence. Les décisions prises par les établissements sont bien entendu entièrement régies par les règles générales de droit administratif, y compris les principes généraux d'une bonne administration. L'application de ces principes aux applications d'IA peut être difficile, car ils entrent en conflit avec la boîte noire que crée nécessairement l'IA. Néanmoins, cela ne semble pas poser un problème insoluble. Les règles sur la protection des données personnelles (RGPD) pourraient constituer un obstacle. La nature des données personnelles dans l'éducation et la nature de l'IA ne semblent pas bien s'accorder sur le plan juridique, et il semble très improbable que l'IA à grande échelle soit autorisée sans réglementation légale. Cela change évidemment si les données utilisées ne sont plus des données personnelles. En cas de problème, il ne semble pas y avoir de problèmes importants dans l'application des règles de responsabilité. Ce régime est très ouvert et flexible, de sorte que ceux qui sont lésés par les applications d'IA ne devraient pas rester dans l'impasse. Les règles sectorielles spécifiques à l'éducation offrent en principe beaucoup de liberté et ne semblent pas contenir de véritables interdictions. Cependant, il sera nécessaire d'agir toujours dans l'esprit et la lettre des principes du droit de l'éducation. De plus, les intérêts de l'enfant devront toujours être au centre et servir de point d'ancrage éthique, et la question permanente sera de savoir si l'IA répond à ce critère. De manière plus pratique, la réglementation sectorielle constitue un obstacle : il n'existe pas de dispositif solide de contrôle du contenu de l'enseignement, et cela reste très sensible. De plus, l'initiative ascendante est difficile : bien qu'il puisse y avoir des initiatives dans des établissements individuels, le modèle de concertation et la diversité des règles au niveau de l'établissement pourraient probablement entraver tout mouvement à grande échelle. Cela oubliant peut-être l'aversion possible des enseignants (et des institutions) dont les intérêts et la position pourraient être directement touchés par l'application de l'IA.

Qu'est-ce que nous voulons : quelles sont les principales opportunités et risques de l'application de l'IA dans l'éducation ?

Opportunités des applications d'IA dans l'éducation

L'utilisation de l'IA dans l'éducation offre, selon l'étude, la possibilité de produire les effets positifs suivants :

• Diminution de la charge de travail des enseignants en utilisant l'IA pour soutenir les tâches (administratives).
• Apprentissage personnalisé : adapter l'enseignement à l'élève, avec de meilleurs résultats et un meilleur processus d'apprentissage.
• Soutien des enseignants avec des perspectives holistiques et étayées (analyse de l'apprentissage).
• Amélioration de la manière dont les connaissances sont évaluées.
• Augmentation de l'efficacité des outils d'apprentissage numériques, également en synergie avec d'autres technologies telles que la réalité virtuelle et les serious games.

Risques

L'étude montre que l'application de l'IA dans l'éducation pourrait entraîner les effets négatifs suivants, sauf si des mesures d'atténuation sont mises en place :

• Certains objectifs éducatifs pourraient être compromis par l'IA si l'accent mis sur la technologie et l'aspect de la « transmission du savoir » est trop important.
• Les biais chez les individus se traduisent dans les données, qui sont ensuite intégrées par l'IA.
• Une perspective affaiblie pour le métier d'enseignant (pour les enseignants actuels et futurs).
• La dépendance des modèles de boîte noire (IA inexplicable) par rapport à la responsabilité de l'enseignant.
• L'application de l'IA alors que d'autres infrastructures de base ne sont pas encore en place.
• Un changement de pouvoir chez les producteurs de matériel pédagogique.

Recommandations

Afin de stimuler les applications d'IA dans l'éducation, il existe plusieurs aspects sur lesquels des politiques peuvent être élaborées, et/ou sur lesquels les décideurs politiques (notamment le ministère de l'Éducation, de la Culture et des Sciences) peuvent agir:

1. Encourager l'acceptation de l'IA dans l'éducation par les enseignants, les élèves et les parents.
2. Renforcement des compétences numériques du personnel enseignant.
3. Mise en place d'une infrastructure de données.
4. Facilitation d'expérimentations sur l'utilisation de l'IA dans l'éducation.
5. Encouragement d'une approche multidisciplinaire dans le développement de l'IA.
6. Élaboration d'un label de qualité pour l'application responsable de l'IA dans l'éducation.
7. Lancement de recherches complémentaires sur l'IA dans l'éducation.