¿Cómo deben las universidades transformar la evaluación y docencia para integrar éticamente la IA?

Las universidades tienen el reto urgente de transformar la evaluación y la docencia adoptando un enfoque matizado y estructurado hacia la integración ética de la Inteligencia Artificial Generativa (IAG), dejando de lado la postura de prohibición y enfocándose en la orientación y el desarrollo de habilidades.

Las transformaciones necesarias abarcan la evaluación, la capacitación del personal y el enfoque pedagógico:

1. Transformación de la evaluación mediante directrices claras

Una solución práctica para integrar éticamente la IAG en la evaluación es mediante un marco estructurado que ofrezca claridad y transparencia, como la Escala de Evaluación de Inteligencia Artificial (AIAS). Este enfoque se aleja de una postura binaria de "IA sí/IA no" (Perkins et al., 2024).

Implementación de la AIAS:

• Definición de Niveles: El AIAS es una escala de cinco puntos que permite a los educadores seleccionar el nivel apropiado de uso de la IAG en las evaluaciones según los resultados de aprendizaje deseados. Estos niveles deben ser claros para los estudiantes, delimitando cómo y dónde se pueden utilizar estas herramientas, apoyando así los principios de integridad académica.
• Niveles Clave de Uso: Los niveles varían desde el Nivel 1 (Sin IA), donde se requiere que los estudiantes confíen únicamente en sus propios conocimientos y habilidades (idealmente bajo supervisión o en evaluaciones formativas de bajo riesgo debido a problemas de equidad); hasta el Nivel 5 (IA completa), donde la IA puede usarse como "copiloto" a discreción del estudiante para fomentar la creatividad y la co-creación.
• Niveles Intermedios: El Nivel 4 (finalización de tareas por IA, evaluación humana) es particularmente importante, ya que exige a los estudiantes utilizar la IAG para completar partes específicas de la tarea, pero mantiene el énfasis en la evaluación humana, requiriendo el análisis crítico y la interpretación del contenido generado por la IA.
• Transparencia: Es crucial exigir a los estudiantes que declaren y citen de manera transparente el contenido generado por la IA, especialmente en el Nivel 4.

Cambios en el diseño de la evaluación:

• Enfoque en el proceso: cuando la IA abarata el producto final, las universidades deben centrarse en el proceso de aprendizaje. Esto implica incorporar oportunidades para que los estudiantes reflexionen y hablen sobre su proceso para llegar al producto final.
• Enfoque en las preguntas: dado que la IA abarata la respuesta, el foco de la evaluación debe cambiar hacia las preguntas, que se vuelven cada vez más valiosas.
• Diseño de tareas: muy pocas universidades ha modificado su enfoque en la evaluación, aunque algunos están optando por trabajos más prácticos y evaluaciones presenciales.

 2. Transformación Pedagógica y Capacitación

La transformación pedagógica implica no solo establecer reglas, sino también educar a la comunidad universitaria sobre el uso ético y efectivo de la IA.

Orientación clara y fomento de la responsabilidad:

• Claridad en las expectativas: Los educadores deben ser "sumamente claros" sobre sus expectativas de uso de la IA, proporcionando orientación concreta en lugar de acusaciones vagas como "usaste IA". La ambigüedad obliga a los estudiantes a tomar decisiones de juicio difíciles e injustas.
• Ser asesores, no policías: los profesores deben dejar de actuar como policías y pasar a ser asesores de confianza sobre cómo usar correctamente esta tecnología. Se debe fomentar una cultura de uso responsable de la IA.
• Integración en las lecciones: en lugar de rehuir la IA, se recomienda incorporarla intencionalmente en las tareas de aprendizaje, usándola para hacer una lluvia de ideas, discutir con chatbots entrenados para tener perspectivas opuestas o ayudar a los estudiantes a reflexionar sobre su trabajo.
• Enfoque en la relevancia y la motivación: el intento de los estudiantes de evitar el trabajo a menudo es un problema de relevancia y motivación, que existía mucho antes de la IA. Enfocar los esfuerzos en hacer que el aprendizaje sea relevante y conectado con los intereses y objetivos de los estudiantes es más productivo que luchar contra las trampas.

Capacitación institucional:

• Alfabetización en IA para educadores: para establecer expectativas claras, los educadores necesitan comprender fundamentalmente cómo funcionan los sistemas de IA, adquiriendo una alfabetización básica en IA. La gran mayoría de las universidades ha formado o están formando a su Personal Docente e Investigador (PDI) en IA, abordando temas como su impacto en la educación superior y los aspectos éticos y morales.
• Formación para estudiantes: a pesar de que la IA se considera esencial para el futuro laboral de los graduados, las universidades han priorizado la formación del PDI sobre la de los estudiantes (Fundación CYD, 2024).

3. Consideraciones éticas fundamentales

La integración ética debe abordar desafíos sistémicos que la IA amplifica.

• Reconocimiento de riesgos: las universidades están preocupadas por el potencial plagio, la dificultad para detectar el uso de la IA (un desafío real, ya que los detectores de IA son inexactos y sesgados, incluso contra hablantes no nativos de inglés) y el riesgo de que la IA fomente un aprendizaje sesgado y reduzca el esfuerzo del alumnado.
• Equidad y acceso: se deben abordar las preocupaciones de equidad, ya que el acceso a herramientas de IAG más avanzadas o de pago puede variar significativamente entre los estudiantes (la "brecha digital"), lo que requiere considerar la estandarización de las herramientas permitidas.
• Colaboración: existe un amplio consenso sobre la necesidad de reforzar la colaboración con empresas tecnológicas para una mayor implementación de la IA en las aulas.

La integración ética de la IA se asemeja a cambiar el enfoque de ser un muro de contención a ser un canal de orientación. En lugar de intentar bloquear la marea creciente de la IA (que es inútil), la universidad debe construir un sistema de canales claro y transparente (como el AIAS) que dirija su poder hacia resultados de aprendizaje positivos y responsables.

Referencias 

[Ditch That Textbook]. (s.f.). 20 things I'd like educators to consider as generative AI tools like ChatGPT become more and more prevalent in schools. [Ditch That Textbook]. https://ditchthattextbook.com/ai-cheating-considerations/

Fundación CYD. (2024). Inteligencia Artificial y Universidad: Uso y percepción de la IA en el entorno universitario 

Perkins, M., Furze, L., Roe, J., MacVaugh, J. (2024). The Artificial Intelligence Assessment Scale (AIAS): A Framework for Ethical Integration of Generative AI in Educational Assessment. Journal of University Teaching and Learning Practice, 21(6). https://doi.org/10.53761/q3azde36