La inteligencia artificial (IA) ya forma parte de las aulas. Desde herramientas para generar materiales didácticos hasta asistentes de corrección o plataformas de aprendizaje personalizado, cada vez son más los docentes que incorporan estas tecnologías a su práctica diaria.
La aprobación, en 2024, del Reglamento Europeo de Inteligencia Artificial (UE) 2024/1689, conocido como la Ley de Inteligencia Artificial (AI Act), marcó un hito histórico al establecer el primer marco jurídico armonizado para el desarrollo y uso de esta tecnología en la Unión Europea.
Para los docentes y futuros profesionales de la educación, este reglamento no es solo una norma técnica; es una salvaguarda de los derechos fundamentales en el entorno escolar y universitario. Dado que la educación es un ámbito crítico para el desarrollo humano, la ley impone restricciones estrictas y responsabilidades claras para garantizar una IA ética, segura y centrada en las personas.
Con este Reglamento, la Unión Europea establece por primera vez unas normas comunes para garantizar que estas herramientas sean seguras, transparentes y respetuosas con los mencionados derechos fundamentales.
La implementación de este Reglamento se planteó de manera gradual: las prohibiciones generales entraron en vigor en febrero de 2025, mientras que las obligaciones para sistemas de alto riesgo en educación se han convertido en plenamente exigibles a partir de agosto de 2026.
Es el momento de que las facultades de educación, como Escuni, y los centros educativos comiencen a integrar estos estándares en su cultura institucional y en sus planes de formación.
Una IA al servicio de las personas
El Reglamento parte de una idea fundamental: la inteligencia artificial debe estar al servicio del ser humano y nunca sustituir su capacidad de decisión. Su objetivo es impulsar la innovación, pero garantizando al mismo tiempo la protección de la salud, la seguridad, la privacidad y los derechos fundamentales de todas las personas.
En el propio texto se reconoce que la educación es uno de los ámbitos donde la IA puede generar importantes beneficios, siempre que se utilice de manera responsable.
Estos son los puntos clave que todo profesional de la educación debe conocer para navegar con seguridad en esta nueva era digital.
1. La educación como ámbito de «Alto Riesgo»
El Reglamento clasifica los sistemas de IA según el riesgo que suponen para la sociedad. Uno de los puntos más relevantes para nuestro sector es que los sistemas de IA utilizados en la educación y la formación profesional se consideran, por norma general, de «alto riesgo». Esta clasificación incluye sistemas destinados a:
- Determinar el acceso o la admisión de alumnos a centros educativos de todos los niveles.
- Evaluar los resultados del aprendizaje, incluyendo aquellos que orientan el proceso educativo.
- Evaluar el nivel de educación adecuado para una persona.
- Supervisar y detectar comportamientos prohibidos (como el plagio o trampas) durante los exámenes.
¿Por qué es de alto riesgo? La Unión Europea considera que estas herramientas pueden decidir la trayectoria formativa y profesional de una persona, afectando significativamente a su capacidad de subsistencia y vulnerando potencialmente el derecho a la educación y a la no discriminación.
2. Prácticas prohibidas en centros educativos
Existen ciertas aplicaciones de la IA que el Reglamento prohíbe taxativamente por considerarlas contrarias a los valores de la Unión. Una de las prohibiciones más directas para el entorno docente es la prohibición del uso de sistemas de IA para inferir las emociones de personas físicas en los centros educativos.
Esta restricción responde a la preocupación por la falta de base científica sólida de estos sistemas y al desequilibrio de poder entre docente y alumno. No se permitirá el uso de software que pretenda detectar si un alumno está aburrido, entusiasmado o frustrado mediante sus datos biométricos, salvo que existan fines estrictamente médicos o de seguridad debidamente justificados.
Asimismo, quedan prohibidas las técnicas de manipulación subliminal que busquen alterar el comportamiento de los estudiantes de forma perjudicial o que exploten vulnerabilidades relacionadas con la edad o la discapacidad.
3. El rol del docente como «responsable del despliegue»
En la terminología de la ley, las instituciones educativas y, en muchos casos, los docentes que deciden utilizar una herramienta de IA bajo su autoridad se consideran «responsables del despliegue» (deployers). Esto conlleva obligaciones legales específicas para garantizar que la IA se use de forma responsable:
- Uso conforme a las instrucciones: Los docentes deben seguir estrictamente las instrucciones de uso facilitadas por el proveedor del sistema de IA de alto riesgo.
- Supervisión humana efectiva: El docente no puede delegar la decisión final en la máquina. Los sistemas de alto riesgo deben estar diseñados para que personas físicas puedan vigilarlos, entender sus limitaciones y, si es necesario, invalidar sus resultados.
- Vigilancia y reporte: Si se detecta que el uso de la IA presenta riesgos para los derechos fundamentales o la seguridad, o si ocurre un incidente grave, el responsable debe informar inmediatamente al proveedor y a las autoridades competentes, suspendiendo el uso si fuera necesario.
- Control de datos de entrada: Se debe asegurar que los datos introducidos en el sistema sean pertinentes y representativos para la finalidad prevista.
4. Transparencia y derecho a la información
El Reglamento refuerza el derecho de los estudiantes y sus familias a saber cómo se están utilizando sus datos. Los responsables del despliegue deben:
- Informar a los alumnos cuando vayan a estar expuestos a sistemas de IA de alto riesgo, especialmente si estos se usan para tomar decisiones sobre ellos.
- Explicar las decisiones: Si un alumno se ve afectado significativamente por una decisión basada en los resultados de una IA de alto riesgo, tiene derecho a recibir una explicación clara y significativa sobre el papel que ha jugado el sistema en dicho proceso.
- Etiquetado de contenidos: Los contenidos (texto, audio o vídeo) generados o manipulados artificialmente que parezcan reales (ultrasuplantaciones o deepfakes) deben ser etiquetados como tales de forma clara.
5. Alfabetización en IA: una nueva competencia profesional
El artículo 4 del Reglamento impone a los proveedores y responsables del despliegue la obligación de adoptar medidas para garantizar que su personal tenga un nivel suficiente de alfabetización en materia de IA.
Para los docentes, esto significa que la formación continua ahora incluye legalmente la necesidad de adquirir conocimientos sobre el funcionamiento de la IA, sus beneficios, riesgos y salvaguardias. La alfabetización en IA busca que el docente pueda tomar decisiones con conocimiento de causa y comprender cómo las decisiones asistidas por tecnología impactan en sus alumnos.
No se trata únicamente de aprender a utilizar aplicaciones de IA, sino de comprender:
- Cómo funcionan estas herramientas.
- Cuáles son sus ventajas y limitaciones.
- Qué riesgos pueden generar.
- Cómo interpretar correctamente sus resultados.
- Cuándo es necesario intervenir con criterio profesional.
En otras palabras, la competencia digital docente evoluciona hacia una competencia crítica en inteligencia artificial.
6. Evaluación de impacto
Los centros educativos deberán realizar una evaluación del impacto sobre los derechos fundamentales antes de poner en funcionamiento cualquier sistema de IA de alto riesgo. Esta evaluación debe describir los procesos, el tiempo de uso, las categorías de alumnos afectados y las medidas de mitigación en caso de riesgos para la privacidad, la igualdad o la dignidad humana.
7. Una oportunidad para transformar la educación
Lejos de presentar la IA como una amenaza, el Reglamento Europeo apuesta por una innovación responsable. Las herramientas inteligentes pueden facilitar la personalización del aprendizaje, reducir tareas administrativas o apoyar la creación de recursos didácticos, siempre que su uso mantenga el protagonismo del profesorado y el respeto a los derechos del alumnado.
Para quienes hoy se preparan para ejercer la docencia, conocer este nuevo marco normativo es tan importante como aprender a utilizar las propias herramientas de inteligencia artificial. El futuro maestro no solo debe saber emplearlas, sino también decidir cuándo, cómo y por qué utilizarlas de forma ética, crítica y responsable.
La Inteligencia Artificial en las aulas: Conclusión
El Reglamento de IA de la UE no busca frenar la innovación en la educación, sino asegurar que esta se produzca dentro de un marco de confianza. Para el docente, esta ley significa que tiene la responsabilidad ética y legal de ser el último garante de la justicia en el aula. La IA puede ser una herramienta poderosa para personalizar el aprendizaje y mejorar la gestión educativa, pero el juicio humano, la empatía y la supervisión crítica siguen siendo, por ley, insustituibles.
