Las posibilidades de la inteligencia artificial en la educación

Por encargo del Ministerio de Educación, Cultura y Ciencia, Dialogic investigó el impacto que la inteligencia artificial puede tener en la educación en los Países Bajos. El objetivo de la investigación es obtener una visión de cómo se utiliza actualmente la inteligencia artificial en la educación (y cómo se utilizará en el futuro) (¿Qué es posible?), y qué aspectos legales están involucrados en dicho uso (¿Qué es permitido?). Además, la investigación debe exponer los cinco mayores riesgos y oportunidades asociados con este uso (¿Qué queremos?).

¿Qué es posible: cuáles son las aplicaciones relevantes de la IA en la educación?

No es fácil dar una única definición de IA, especialmente cuando se trata de aplicaciones en la educación. De nuestra investigación se desprende que, especialmente cuando se trata de aplicaciones que (1) automatizan tareas cognitivas y (2) utilizan grandes cantidades de datos y métodos basados en datos, existen interesantes cuestiones sin resolver. En el proceso educativo, los profesores toman continuamente decisiones a su propio criterio sobre (entre otros) el método utilizado, el material de estudio, la forma en que se aborda a un alumno, etc. Finalmente, los profesores también toman algunas decisiones formales: ¿cuál es la calificación, y si un niño puede pasar al siguiente curso? Las IA pueden ayudar a los docentes de diversas maneras en la toma de estas decisiones. Identificamos cuatro escenarios como los más probables para los próximos 5-8 años: (1) una IA como asistente educativo, (2) IA para análisis de aprendizaje, (3) IA para personalización de la educación, y (4) IA para evaluación.

¿Puede una IA reemplazar completamente a un profesor? No en un futuro cercano.

Cuando la IA haya alcanzado tal nivel de inteligencia que pueda reemplazar al docente, teóricamente podría mejorar significativamente la educación: cada alumno podría recibir 'clases privadas'. Sin embargo, aún no hemos llegado a ese punto: se espera que la inteligencia artificial general (donde una IA iguala el nivel de inteligencia de un ser humano) todavía tarde al menos algunas décadas en aparecer. Sin embargo, esto no impide que IA menos inteligentes, que ya están disponibles hoy en día, puedan apoyar a los profesores para que puedan dedicar más tiempo a cada estudiante o trabajar de manera más eficiente.

¿Qué es permitido: cuáles son los problemas legales en la aplicación de IA en la educación?

La aplicación de IA en la educación afecta a diversas regulaciones genéricas. Algunas de estas regulaciones son de derecho complementario, lo que significa que pueden ser fácilmente y en gran medida modificadas por contrato, como por ejemplo las regulaciones de la Ley de Derechos de Autor y la Ley de Bases de Datos. La flexibilidad de estas regulaciones de derecho privado mencionadas no se encuentra tan presente en las regulaciones de derecho público, como las normas sobre transparencia y reutilización de información administrativa o pública. La aplicabilidad de estas regulaciones puede disuadir a los desarrolladores de entablar colaboraciones con instituciones si esto implica que su conocimiento esté en riesgo. Los contratos adicionales sobre derechos de propiedad intelectual pueden ayudar (parcialmente) en esta situación. Sin embargo, se debe tener cuidado de que la colaboración con empresas del mercado no genere posiciones dominantes que vayan en contra de las normas de competencia. Las decisiones tomadas por las instituciones están completamente regidas por las normas generales del derecho administrativo, incluidos los principios generales de una buena administración. La aplicación de estos principios a las aplicaciones de IA puede ser difícil, ya que chocan inherentemente con la caja negra que la IA crea. Sin embargo, parece que esto no es un problema irresoluble. Las regulaciones sobre protección de datos personales (GDPR) pueden ser un problema. La naturaleza de los datos personales en la educación y el carácter de la IA no encajan bien (jurídicamente), y parece muy difícil imaginar que la IA a gran escala esté permitida sin una regulación legal. Por supuesto, esto cambia por completo si los datos que se utilizan ya no son datos personales. Si algo sale mal, no parece haber problemas significativos en la aplicación de las regulaciones de responsabilidad. Este régimen es muy abierto y flexible, por lo que aquellos perjudicados por aplicaciones de IA no deberían quedar desprotegidos. Las normativas sectoriales específicas de la educación ofrecen mucha libertad y no parecen contener prohibiciones estrictas. Sin embargo, siempre se debe actuar dentro del espíritu y la letra de los principios del derecho educativo. Además, los intereses del niño deberán ser siempre un punto central y ético, y se cuestionará si esto es el caso con la IA. Desde un punto de vista más práctico, la regulación sectorial puede ser un obstáculo: no existe un fuerte mecanismo de control sobre el contenido de la educación desde arriba hacia abajo, además de que esto es muy delicado. La iniciativa desde abajo también es complicada: aunque pueden surgir iniciativas en instituciones individuales, es probable que el modelo de consenso y la diversidad de diferentes regulaciones a nivel institucional obstaculicen un movimiento a gran escala. Esto sin mencionar la posible aversión de los profesores (y las instituciones), cuyos intereses y posición pueden verse directamente afectados por la aplicación de IA.

¿Qué queremos: cuáles son las principales oportunidades y riesgos de la aplicación de IA en la educación?

Oportunidades de las aplicaciones de IA en la educación

La aplicación de IA en la educación ofrece, según se desprende de la investigación, posibilidades para lograr los siguientes efectos positivos:

• Reducir la carga de trabajo de los profesores mediante la aplicación de IA para apoyar tareas (administrativas).
• Aprendizaje personalizado: hacer que la educación se adapte mejor al estudiante, con mejores resultados y un mejor proceso de aprendizaje.
• Apoyar al profesor con percepciones holísticas y fundamentadas (análisis de aprendizaje).
• Mejorar la forma de evaluar el conocimiento.
• Aumentar la efectividad de los recursos educativos digitales, también en sinergia con otras tecnologías, como la realidad virtual y los juegos serios.

Riesgos

Según la investigación, la aplicación de IA en la educación podría llevar a los siguientes posibles efectos negativos, a menos que se implementen medidas de mitigación:

• Algunos objetivos educativos podrían verse afectados por la IA, cuando el enfoque en la tecnología y el aspecto de la 'transferencia de conocimientos' es demasiado grande.
• Los prejuicios en las personas se reflejan en los datos, que luego son adoptados por la IA.
• Una perspectiva empeorada para la profesión de 'profesor' (para profesores actuales y futuros).
• Dependencia de modelos de caja negra (IA inexplicable) versus responsabilidad del profesor.
• Aplicación de IA, mientras que otras provisio(Translation company)es básicas todavía no están en su lugar.
• Un cambio en el poder de los productores de material educativo.

Recomendaciones

Para fomentar las aplicaciones de IA en la educación, hay una serie de aspectos en los que se puede formar políticas y/o en los que los responsables políticos (específicamente el Ministerio de Educación) pueden actuar:

1. Fomentar la aceptación de la IA en la educación por parte de profesores, estudiantes y padres.
2. Mejorar las habilidades digitales del personal educativo.
3. Establecer una infraestructura de datos.
4. Facilitar experimentos en la aplicación de IA en la educación.
5. Fomentar un enfoque multidisciplinario en el desarrollo de la IA.
6. Desarrollar un sello de calidad para la aplicación responsable de IA en la educación.
7. Iniciar investigaciones adicionales sobre la IA en la educación.