La inteligencia artificial está dejando de ser una herramienta que el profesorado o el alumnado utilizan de manera ocasional. Se está integrando en buscadores, plataformas educativas, aplicaciones ofimáticas, simuladores, sistemas de gestión y entornos profesionales. Cuando una tecnología se convierte en infraestructura, ya no basta con enseñar a utilizarla: hay que decidir qué comportamientos permite, qué decisiones desplaza, qué datos recoge y quién conserva la capacidad de gobernarla.

Durante los últimos meses, buena parte de la conversación educativa sobre inteligencia artificial ha girado alrededor de las herramientas: cuál utilizar, qué puede hacer, cómo formular mejores instrucciones o en qué tareas permite ahorrar tiempo. Pero esa conversación empieza a quedarse pequeña. La IA generativa ya no funciona únicamente como una aplicación que abrimos de forma puntual. Está entrando en los buscadores, las plataformas educativas, las aplicaciones ofimáticas, los sistemas de gestión, los simuladores y los entornos profesionales. Está dejando de ser una herramienta para convertirse en una capa de infraestructura. Y cuando una tecnología se convierte en infraestructura, ya no basta con enseñar a utilizarla. Hay que decidir qué comportamientos permite, qué decisiones desplaza, qué respuestas normaliza, qué datos recoge y qué valores incorpora silenciosamente al proceso educativo. En Del error a la competencia defendíamos que la IA no debería borrar el error antes de que pueda generar aprendizaje. El alumnado necesita interpretar, probar, equivocarse, revisar y demostrar finalmente que puede actuar con autonomía. En Lo que vuestro centro de FP ya sabe hacer —y aún no sabe que sabe— ampliábamos la mirada hacia la organización: las prácticas valiosas no pueden depender únicamente del voluntarismo de algunos docentes; deben convertirse en capacidad compartida del centro. Y en Pensar con IA sin dejar de pensar planteábamos ocho principios para preservar el razonamiento, la metacognición y el criterio profesional. El siguiente paso es inevitable.

Si queremos proteger esas capacidades, no basta con diseñar bien las actividades. También debemos gobernar la tecnología y el sistema institucional que las hace posibles.

Cuando mejorar el resultado no significa mejorar el aprendizaje

El artículo de Ali Khodi y Samantha Curle que sirve de base a esta reflexión analiza la incorporación de la IA generativa a la enseñanza de lenguas. Su diagnóstico, sin embargo, resulta transferible a toda la Formación Profesional. Los autores cuestionan una lógica muy extendida: utilizar la IA para personalizar el aprendizaje, reducir errores y mejorar rápidamente el producto final. Esa lógica parece razonable. ¿Quién podría oponerse a una ayuda más adaptada, un diagnóstico más rápido, una retroalimentación inmediata o un resultado formalmente mejor? El problema surge cuando confundimos un producto mejor con un aprendizaje mejor. Un estudiante puede generar un informe más fluido, presentar una propuesta más convincente o elaborar una solución técnicamente plausible mientras delega en la IA las decisiones que debería aprender a tomar. Puede mejorar el rendimiento asistido y debilitar, al mismo tiempo, su autonomía profesional. El marco RAiLE identifica tres riesgos que permiten comprender esta tensión: la delegación del criterio, la compresión normativa y la opacidad de la gobernanza.

Delegación del criterio: cuando la IA ocupa el lugar del juicio profesional

El artículo denomina a este riesgo epistemic substitution. En este texto lo formulamos como delegación del criterio: el proceso por el cual el alumnado deja de utilizar la IA para ampliar su razonamiento y comienza a emplearla para sustituir su propio juicio. El sistema deja de ser una fuente de apoyo y se convierte en el árbitro de lo correcto. En FP puede ocurrir cuando la IA determina cuál es el diagnóstico más probable, qué solución técnica debe adoptarse, cómo debe formularse una propuesta comercial, qué riesgos son relevantes o qué procedimiento resulta más adecuado. El problema no es que la IA aporte una recomendación. El problema aparece cuando esa recomendación se acepta sin que el alumnado pueda explicar sus fundamentos, contrastarla con otras evidencias o justificar por qué la adopta.

La autonomía no consiste en producir una respuesta sin ayuda, sino en conservar la capacidad de decidir qué valor tiene la ayuda recibida.

Compresión normativa: cuando una solución se presenta como la única normal

Los modelos generativos tienden a ofrecer respuestas coherentes, convencionales y ajustadas a los patrones dominantes presentes en sus datos de entrenamiento. En el ámbito lingüístico, esto puede favorecer determinados registros, estilos o formas de expresión. En Formación Profesional, la compresión normativa puede adoptar otras formas: una única manera de presentar un proyecto, diagnosticar una avería, atender a un cliente, diseñar un proceso o interpretar una situación profesional. La IA puede presentar como neutral una solución que responde a una cultura empresarial concreta, una forma dominante de organizar el trabajo, determinados criterios técnicos o un contexto productivo específico. Cuando esto sucede, la personalización produce una paradoja: el sistema parece adaptarse a cada estudiante, pero conduce a todos hacia respuestas cada vez más parecidas. La FP necesita estándares, procedimientos y criterios profesionales. Pero también debe enseñar a reconocer que muchos problemas reales admiten alternativas y que una solución adecuada depende del contexto, las restricciones, los riesgos y las personas afectadas. La pluralidad no significa que cualquier respuesta sea válida. Significa que una decisión profesional debe ser comparada, contextualizada y justificada.

Opacidad de la gobernanza: cuando el centro no sabe qué ocurre con los datos

El tercer riesgo no se sitúa directamente en la actividad didáctica, sino en la infraestructura que la sostiene. Las interacciones con IA pueden generar una gran cantidad de datos: preguntas del alumnado, borradores, errores, procesos de revisión, decisiones, tiempos de trabajo, dificultades e historiales de interacción. Estos datos pueden resultar valiosos para proporcionar apoyo formativo. Pero también pueden reutilizarse para finalidades distintas de aquellas para las que fueron recogidos.

• Vigilancia o clasificación del alumnado.
• Detección automatizada de supuestas irregularidades.
• Evaluación o comparación del profesorado.
• Entrenamiento comercial de sistemas.
• Toma de decisiones institucionales poco transparentes.

La cuestión no es únicamente si los datos están protegidos jurídicamente. La cuestión pedagógica es si el alumnado puede explorar, equivocarse y pedir ayuda sin sentir que cada interacción puede ser utilizada posteriormente en su contra.

No puede existir aprendizaje basado en la experimentación si el entorno tecnológico convierte cada error en una posible evidencia de vigilancia.

Tres capas que deben funcionar juntas

RAiLE propone entender la incorporación de la IA como un sistema formado por tres capas interdependientes:

1. Pedagogía: qué tipo de aprendizaje queremos generar.
2. Diseño tecnológico: qué debe permitir, explicar o limitar el sistema.
3. Gobernanza: qué reglas institucionales protegen los derechos, la autonomía y la confianza.

La aportación más importante del marco no está en cada capa por separado, sino en su interdependencia. Una buena pedagogía puede quedar anulada si la herramienta conduce siempre hacia una respuesta única. Un buen diseño tecnológico puede convertirse en vigilancia si no existen límites claros sobre los datos. Y una política institucional puede cumplir formalmente con la normativa mientras no modifica ninguna práctica educativa relevante.

Gobernar la IA no consiste en añadir un documento de política digital al proyecto del centro. Consiste en alinear pedagogía, tecnología y reglas institucionales.

Primera capa: una pedagogía de la elección justificada

RAiLE sitúa la autonomía de juicio del alumnado en el centro. Pero esa autonomía no consiste simplemente en permitir que el estudiante utilice una herramienta. Se demuestra cuando puede aceptar, rechazar o modificar una propuesta de la IA y explicar por qué lo hace. Ante una recomendación generada, el alumnado debería poder responder:

• La acepto porque…
• La rechazo porque…
• La modificaría de esta manera porque…
• Necesito más información antes de decidir porque…
• Esta alternativa sería válida en otro contexto, pero no en este porque…

La IA deja así de ser una máquina de respuestas y se convierte en una ocasión para ejercitar el juicio profesional. El marco propone también una exploración acotada. El alumnado puede abrir distintos caminos, comparar alternativas y experimentar con diferentes enfoques, pero esa exploración debe regresar periódicamente a los objetivos, criterios y evidencias de aprendizaje. Una secuencia posible sería:

1. Explorar posibles soluciones.
2. Comparar sus implicaciones.
3. Justificar una elección.
4. Contrastar la propuesta con otras personas.
5. Comprobarla mediante criterios técnicos.
6. Regresar al problema profesional inicial.

La apertura no debe producir dispersión. Debe ampliar el espacio de decisión antes de exigir una respuesta fundamentada.

Segunda capa: una tecnología que muestre alternativas y razones

La pedagogía necesita sistemas cuyo comportamiento sea coherente con ella. No basta con pedir al profesorado que fomente el pensamiento crítico si la plataforma está diseñada para ofrecer una única respuesta rápida, fluida y aparentemente definitiva.

Introducir alternativas inesperadas, pero relevantes

El sistema puede presentar contraejemplos, escenarios próximos o soluciones procedentes de otros contextos. No se trata de generar variedad de forma indiscriminada, sino de evitar que la primera respuesta cierre el problema. En una actividad de emprendimiento, por ejemplo, la IA podría presentar tres modelos de negocio con diferentes implicaciones. En una tarea técnica, podría introducir una variación en las condiciones que obligue a reconsiderar el diagnóstico. En atención sociosanitaria, podría mostrar cómo cambia una decisión cuando se modifican las necesidades o preferencias de la persona atendida.

Explicar las implicaciones de cada opción

La explicabilidad educativa no exige que el sistema revele toda su arquitectura interna. Exige que ayude al alumnado a comprender por qué propone una alternativa y en qué condiciones podría resultar adecuada. Una respuesta útil no debería limitarse a decir «esta es la mejor solución». Debería indicar qué criterios ha priorizado, qué supuestos está utilizando, qué incertidumbres existen, qué alternativas ha descartado y en qué contexto podría cambiar la recomendación.

Incorporar el desacuerdo productivo

Los sistemas tienden a agrupar por afinidad y a reforzar preferencias anteriores. Sin embargo, aprender exige encontrarse con perspectivas diferentes. El centro puede diseñar actividades en las que el alumnado compare su propuesta con la de compañeros de otros perfiles, especialidades o experiencias, utilizando la IA para estructurar el contraste, no para eliminarlo. La diferencia deja de ser un problema de coordinación y se convierte en un recurso para aprender.

Tercera capa: gobernar los datos, la vigilancia y la dependencia

La gobernanza no puede reducirse a establecer qué herramientas están permitidas. Debe responder con claridad a preguntas mucho más concretas:

• ¿Qué datos se recogen?
• ¿Con qué finalidad?
• ¿Durante cuánto tiempo se conservan?
• ¿Quién puede acceder a ellos?
• ¿Puede el alumnado solicitar su eliminación?
• ¿Pueden utilizarse para evaluar o sancionar?
• ¿Se ofrecen alternativas equivalentes a quien no utilice el sistema?
• ¿Qué ocurre si el proveedor modifica sus condiciones?
• ¿Hasta qué punto depende el centro de una plataforma propietaria?

RAiLE propone acuerdos explícitos sobre los datos. En FP, estos acuerdos podrían incorporarse a los proyectos piloto y a las actividades que utilizan sistemas de IA, explicando de forma comprensible qué información se genera y qué usos quedan expresamente excluidos. Un criterio especialmente relevante sería impedir que los historiales de interacción se conviertan, por sí solos, en pruebas de fraude, desinterés, bajo rendimiento o mala conducta. Los registros pueden aportar indicios. No deberían sustituir la interpretación profesional ni el derecho a explicar lo ocurrido. También conviene establecer mecanismos reales de exclusión voluntaria cuando existan razones justificadas, ofreciendo actividades equivalentes y evitando penalizaciones indirectas. Y la contratación tecnológica debe considerar algo más que precio y funcionalidad. La transparencia, la minimización de datos, la interoperabilidad y la posibilidad de cambiar de proveedor son también decisiones pedagógicas.

Un centro que no puede controlar ni abandonar su infraestructura tecnológica ve reducida su capacidad para gobernar su propio proyecto educativo.

Medir algo más que rapidez y calidad superficial

La mayoría de las evaluaciones de herramientas de IA se concentran en variables fáciles de observar: tiempo ahorrado, número de errores corregidos, calidad formal del producto, satisfacción del usuario o mejora inmediata del rendimiento. RAiLE propone observar también otros resultados.

• Qué proporción de las propuestas de la IA modifica o rechaza el alumnado.
• Con qué profundidad justifica sus decisiones.
• Cuántas alternativas relevantes considera.
• Si puede explicar por qué una solución se ajusta al contexto.
• Si reconoce incertidumbres y límites.
• Si mantiene una voz y un criterio propios.
• Si se siente seguro para experimentar.
• Si comprende qué ocurre con sus datos.

Estos indicadores no deben convertirse en una nueva capa de control automatizado. Son señales que necesitan interpretación pedagógica. Su finalidad es ayudar al profesorado y al centro a revisar el diseño de las actividades, no clasificar al alumnado mediante nuevos algoritmos.

Qué pueden hacer ahora los centros de FP

No es necesario implantar un marco completo ni esperar a disponer de una plataforma perfecta. Un centro puede comenzar con un piloto acotado.

1. Seleccionar una actividad relevante

Elegir una tarea en la que la IA ya se esté utilizando o pueda aportar un valor claro.

2. Identificar qué decisiones debe conservar el alumnado

Determinar qué interpretación, juicio o responsabilidad profesional no debe delegarse.

3. Rediseñar la interacción

Incorporar alternativas, explicaciones, contraste y la obligación de aceptar, rechazar o modificar las propuestas de la IA con una justificación.

4. Establecer reglas sobre los datos

Aclarar qué registros se generan, quién puede utilizarlos y para qué finalidades.

5. Definir indicadores de aprendizaje y confianza

No medir solamente el producto final, sino también autonomía de juicio, diversidad de opciones, calidad de la justificación y percepción de seguridad.

6. Revisar y consolidar

Analizar los resultados con alumnado, profesorado y dirección. Documentar lo aprendido y decidir qué debe modificarse antes de extender la experiencia.

Diagnosticar, priorizar, formar, pilotar, medir y consolidar.

La gobernanza de la IA no se construye necesariamente redactando primero una política completa para aplicarla después. Se desarrolla aprendiendo de experiencias cuidadosamente diseñadas y convirtiendo esos aprendizajes en criterios institucionales.

Una propuesta para probar, no una receta terminada

Conviene mantener una cautela importante. RAiLE es un marco conceptual y teóricamente fundamentado. Sus autores no afirman haber demostrado todavía su eficacia mediante una validación empírica completa. Además, está diseñado para la enseñanza de lenguas, no específicamente para la Formación Profesional. La traslación realizada en este artículo debe entenderse, por tanto, como una hipótesis de trabajo. Conceptos como pluralidad lingüística, legitimidad o diversidad de registros se han reinterpretado aquí como diversidad de criterios profesionales, soluciones técnicas, contextos productivos y formas legítimas de resolver problemas. Esa transferencia necesita ser probada, ajustada y evaluada. Pero el valor del marco reside precisamente en que permite formular una cuestión que los centros ya no pueden evitar.

El centro o la plataforma

Cuando la IA era una herramienta ocasional, gran parte de la responsabilidad podía recaer en la decisión individual de utilizarla o no. Cuando se convierte en infraestructura, esa respuesta ya no es suficiente. La plataforma empieza a condicionar qué respuestas parecen normales, qué opciones resultan visibles, qué comportamientos se premian, qué datos quedan registrados y quién conserva realmente la autoridad para decidir. Por eso, el dilema no consiste en elegir entre adoptar o rechazar la inteligencia artificial. El verdadero dilema es decidir quién gobernará su integración.

Si el centro no define las condiciones pedagógicas, tecnológicas y éticas de la IA, esas condiciones terminarán definiéndolas las plataformas.

La FP necesita aprovechar la inteligencia artificial para ampliar la práctica, mejorar el apoyo y acercar el aprendizaje a situaciones profesionales más complejas. Pero debe hacerlo conservando algo esencial: la capacidad del alumnado para interpretar, comparar, cuestionar y decidir; la capacidad del profesorado para ejercer su juicio; y la capacidad del centro para gobernar su propio proyecto educativo. La IA ya no es solo una herramienta. Y precisamente por eso, utilizarla con criterio ya no es suficiente. Hay que diseñarla, limitarla, evaluarla y gobernarla.

---

Artículo tomado como referencia

Khodi, A. y Curle, S. (2026). Designing and governing generative AI for language education: a testable sociotechnical framework (RAiLE). Frontiers in Education, 11, 1806184. Acceder al artículo completo en abierto

Artículos anteriores relacionados

• Del error a la competencia: cómo diseñar una IA que ayude a pensar, corregir y aprender en FP.
• Lo que vuestro centro de FP ya sabe hacer —y aún no sabe que sabe—.
• Pensar con IA sin dejar de pensar: ocho principios para integrar la IA con criterio.

Desde EXP INN Lab acompaño a los centros de Formación Profesional en el diagnóstico, diseño, pilotaje y consolidación de modelos de integración pedagógica y organizativa de la inteligencia artificial. El objetivo es transformar principios generales en criterios compartidos, experiencias evaluables y capacidad instalada en el centro.