Ya hemos realizado varias entradas de blog sobre el potencial de la IA para ofrecer grandes beneficios en la educación. Hoy nos hacemos eco de la publicación del Informe IA del EDEH, del que Innppares es miembro activo. 

Lo que cada vez está mas claro es que también existen riesgos asociados a su uso. En muchos casos, podemos determinar que se trata de un riesgo mínimo.

Los ejemplos que que ilustran el potencial de la IA incluyen la retroalimentación formativa, que ayuda a los profesores en la creación de planes y asistencia en algunas de las funciones administrativas de las entidades educativas. Sin embargo, a medida que nos alejamos del uso de la IA como sistema de apoyo, el riesgo aumenta.

El uso de la IA para el análisis del aprendizaje puede ayudar a los profesores a ajustar sus estrategias y satisfacer las necesidades individuales de los alumnos. Sin embargo, el uso de análisis de aprendizaje sin la supervisión adecuada de los docentes puede poner en desventaja a los estudiantes que se enfrentan a circunstancias adversas que afectan su desempeño, aumentando así el nivel de riesgo. Cuando se trata de confiar en la IA para tomar decisiones que pueden afectar las oportunidades futuras de un alumno, nos estamos moviendo hacia territorios de riesgo «alto» y quizás «inaceptable». Por tanto, podemos ver que el nivel de riesgo reside no tanto en la herramienta como en los contextos en los que se utilizan.

Si bien la supervisión humana puede ayudar a mitigar algunos de los riesgos, debemos ser conscientes del peligro de la dependencia: nos podemos volver cada vez más dependientes de la IA para tomar decisiones.

Todo esto subraya la importancia del desarrollo de una IA explicable. Para garantizar su uso responsable en entornos educativos, es importante se conscientes del equilibrio necesario entre aprovechar los beneficios de la IA y evaluar y mitigar los riesgos potenciales y garantizar que se incluya la supervisión humana y se sirvan los valores humanos.