Puntos clave:
En el paisaje en constante evolución de la inteligencia artificial, la educación se sitúa en la vanguardia. Nuevas herramientas de IA están surgiendo diariamente para educadores y estudiantes; desde tutores de IA hasta creadores de planes de estudio, el mercado de educación de IA está en auge.
Sin embargo, el impacto a largo plazo del uso de la IA en los estudiantes es desconocido. A medida que la investigación educativa de IA intenta mantenerse al día con el desarrollo de la IA, quedan preguntas en torno al impacto del uso de la IA en la motivación estudiantil y en el aprendizaje en general. Estas preguntas son particularmente significativas para los estudiantes de color, que consistentemente encuentran más barreras sistémicas que sus compañeros blancos (Frausto et al., 2024).
Emergiendo en medio de la pandemia de COVID-19 y los declives relacionados en el aprendizaje y la motivación estudiantil, la IA se refiere a una amplia gama de tecnologías, incluyendo herramientas como ChatGPT, que utilizan vastos repositorios de datos para tomar decisiones y resolver problemas. Debido a que la herramienta puede ayudar con tareas como generar ensayos a partir de indicaciones, los estudiantes integraron rápidamente estas tecnologías en el aula. Aunque los educadores y administradores fueron más lentos en adoptar estas tecnologías, han comenzado a usar la IA tanto para gestionar el uso no regulado de los estudiantes como para agilizar su trabajo con herramientas de calificación impulsadas por IA. Si bien el uso de la IA en la educación sigue siendo controvertido, está claro que está aquí para quedarse y, si acaso, está evolucionando rápidamente. La pregunta sigue siendo: ¿Puede la IA mejorar la motivación y el aprendizaje de los estudiantes?
Una revisión rápida reciente de la investigación concluyó que la motivación de los estudiantes se ve afectada por sus experiencias dentro y fuera del aula. La revisión destaca cómo la motivación estudiantil está moldeada por algo más que actitudes individuales, comportamientos, creencias y rasgos, pero no aborda de manera exhaustiva los efectos de la IA en la motivación estudiantil (Frausto et al., 2024).
Para entender cómo la IA puede impactar en la motivación y el aprendizaje de los estudiantes de color, debemos examinar la naturaleza misma de la IA. La IA aprende y se desarrolla en base a conjuntos de datos preexistentes, que a menudo reflejan sesgos y racismo en la sociedad. Esta dependencia de datos sesgados puede llevar a resultados distorsionados y potencialmente dañinos. Por ejemplo, las imágenes generadas por IA tienden a perpetuar estereotipos y clichés, como generar exclusivamente imágenes de líderes como hombres blancos de traje. Del mismo modo, si usáramos la IA para generar un plan de estudios sobre liderazgo, sería propenso a crear contenido que se alinee con este estereotipo. No solo se refuerza el estereotipo y se expone a los estudiantes a él, sino que puede crear contenido incomprensible que lleve a los estudiantes de color a desconectarse del aprendizaje y perder la motivación en el curso en su totalidad (Frausto et al., 2024).
Esto no quiere decir que la IA sea un detractor potencial único. La discriminación es un factor persistente en el mundo real que afecta las experiencias motivacionales y de aprendizaje de los estudiantes, y un sesgo similar se ha visto previamente en herramientas de aprendizaje y motivación no basadas en IA que se han creado en base a investigaciones centradas predominantemente en estudiantes blancos de clase media (Frausto et al., 2024). Si algo, la IA solo sirve como un reflejo de los sesgos que existen dentro del mundo y la esfera educativa; la IA aprende de datos reales, y los sesgos que perpetúa reflejan tendencias sociales. Los sesgos de la IA no son místicos; son muy en gran medida un reflejo de los nuestros. Por ejemplo, los profesores también muestran niveles comparables de sesgo al mundo que les rodea.
Cuando pensamos en el uso actual de la IA en la educación, estos sesgos integrados pueden ser motivo de preocupación. En el extremo del uso estudiantil, las IA han demostrado racismo sutil en forma de prejuicio de dialecto: los estudiantes que utilizan el inglés vernáculo afroamericano (AAVE) pueden descubrir que las IA con las que se comunican les ofrecen recomendaciones menos favorables que a sus compañeros. Para los profesores, un sesgo similar puede afectar las calificaciones que los programas impulsados por IA asignan a los estudiantes, prefiriendo la redacción y perspectivas culturales utilizadas en los ensayos de los estudiantes blancos sobre las de los estudiantes de color. Estos son solo algunos ejemplos de los sesgos presentes en el uso actual de la IA en la educación, pero ya están generando alarmas. Instancias de discriminación similares de humano a humano, como de profesores y compañeros, se han relacionado con una disminución de la motivación y el aprendizaje en estudiantes de color (Frausto et al., 2024). De esta manera, parece que la IA y sus sesgos pueden situarse como otro obstáculo que los estudiantes de color deben enfrentar; herramientas y apoyos de aprendizaje de IA que han sido diseñados y probados en estudiantes blancos con un efecto positivo pueden afectar negativamente a los estudiantes de color debido a los sesgos incorporados.
Para los humanos, recomendamos prácticas antiprejuicios para superar estas percepciones. Con la IA, aún podemos tener la oportunidad de incorporar prácticas similares de conciencia de sesgo y antidiscriminación. Este entrenamiento para la IA ha sido un punto destacado en la conversación sobre la creación y uso responsable de la IA durante varios años, con empresas como Google publicando pautas de IA con énfasis en abordar el sesgo en el desarrollo de sistemas de IA. Abordar el problema del sesgo en la IA con intencionalidad puede ayudar a evitar resultados discriminatorios, como seleccionar intencionalmente conjuntos de datos grandes y diversos para entrenar a la IA y probarlos rigurosamente con poblaciones diversas para garantizar resultados equitativos. Sin embargo, incluso después de estos esfuerzos, los sistemas de IA pueden permanecer sesgados hacia ciertas culturas y contextos. Incluso las buenas intenciones de apoyar el aprendizaje y la motivación estudiantil con IA pueden llevar a resultados no deseados para grupos subrepresentados.
Aunque la integración de la educación de IA ya está ocurriendo rápidamente, existe la oportunidad de abordar y comprender el potencial de sesgo y discriminación desde el principio. Si bien no podemos estar seguros del impacto de la IA en los resultados motivacionales y educativos de los estudiantes de color, la investigación establece un precedente de sesgo como un detractor. Al abordar la implementación de la IA en la educación con intencionalidad e inclusión de perspectivas, así como con conciencia de posibles daños, podemos intentar evitar lo inevitable y en su lugar crear un entorno de aprendizaje impulsado por IA que mejore las experiencias de aprendizaje de todos los estudiantes.
Eliana Whitehouse, EduDream
Eliana Whitehouse es una trabajadora social macro con experiencia en apoyar iniciativas comunitarias y en investigación a lo largo de toda la vida. Actualmente, es Asociada de Investigación y Evaluación en EduDream, una firma de consultoría en investigación educativa fundada por latinas y dirigida por mujeres.
Últimas publicaciones de eSchool Media Contributors (ver todo)