La semana pasada, la Oficina de Derechos Civiles del Departamento de Educación de los Estados Unidos (OCR) publicó un nuevo recurso, Evitando el Uso Discriminatorio de la Inteligencia Artificial, con el objetivo de ayudar a las escuelas a comprender cómo las tecnologías de IA pueden mejorar las oportunidades educativas y contribuir a la discriminación si no están diseñadas o implementadas correctamente.
La guía responde a la Orden Ejecutiva 14110, que llama al desarrollo de políticas y recursos que garanticen el uso seguro, responsable y equitativo de la IA en diversos sectores, incluida la educación. El recurso destaca los estándares legales que OCR aplica para evaluar posibles discriminaciones y describe escenarios que podrían desencadenar investigaciones.
“Las leyes federales de derechos civiles protegen a los estudiantes en entornos educativos, con o sin IA”, dijo Catherine E. Lhamon, Secretaria Asistente de Educación para Derechos Civiles. “Las comunidades escolares deben tener cuidado de no discriminar al implementar herramientas de IA. OCR sigue comprometido con la aplicación vigilante en esta área al igual que en todos los aspectos de la experiencia educativa de los estudiantes.”
El recurso subraya que las escuelas que reciben fondos federales deben cumplir con las leyes de derechos civiles al utilizar tecnologías de IA. También proporciona ejemplos de prácticas que podrían plantear preocupaciones sobre resultados discriminatorios, especialmente para comunidades vulnerables y desatendidas.
Este lanzamiento se suma a otros esfuerzos realizados por la Oficina de Tecnología Educativa del Departamento (OET), que ha desarrollado recursos adicionales sobre el uso seguro y responsable de la IA en la educación. Estos materiales están disponibles en la página web de Inteligencia Artificial de la OET.
Los estudiantes, padres o educadores que crean que ha ocurrido discriminación pueden presentar quejas a través del Sistema de Quejas Electrónicas de OCR. La oficina también ofrece capacitación y asistencia técnica sobre la aplicación de las leyes de derechos civiles en entornos educativos.