En los últimos años, los distritos escolares han mostrado un creciente interés en el potencial de la Inteligencia Artificial Generativa (GenAI) para revolucionar la educación. GenAI ofrece la promesa de mejorar el aprendizaje personalizado, agilizar tareas administrativas y proporcionar recursos educativos innovadores. Sin embargo, a medida que los distritos se apresuran a adoptar estas tecnologías de vanguardia, deben seleccionar cuidadosamente las herramientas de IA adecuadas para satisfacer sus necesidades únicas. Esta rápida adopción conlleva riesgos significativos, especialmente en cuanto a la privacidad de los datos y la accesibilidad.
Garantizar que las herramientas de IA protejan los datos de los estudiantes y cumplan con los estándares de accesibilidad es crucial para crear un entorno educativo inclusivo y seguro. Esta publicación del blog explorará las recomendaciones de expertos para seleccionar herramientas GenAI, ayudando a los distritos a navegar eficazmente estos desafíos.
Consideraciones de privacidad de datos y recomendaciones para la adopción de GenAI en las escuelas
Linnette Attai, Directora del Proyecto de la Iniciativa de Privacidad de Datos Estudiantiles de CoSN y Presidenta de la firma consultora de cumplimiento PlayWell, LLC, comparte ideas sobre los riesgos de privacidad de datos asociados con la adopción de herramientas GenAI y ofrece orientación para una implementación responsable.
Si bien las brechas de seguridad son una preocupación común, Linnette enfatiza que proteger la privacidad y los datos de los estudiantes implica más que simplemente evitar brechas. Existe una responsabilidad más amplia de salvaguardar el bienestar emocional y la información personal de los estudiantes, o como ella lo llama, una ‘responsabilidad de cuidado’. Las consideraciones clave de privacidad incluyen:
Propiedad y control de datos:
Los líderes del distrito deben ser cautelosos al usar grandes modelos de lenguaje no diseñados específicamente para fines educativos. Estos modelos podrían utilizar los datos de los estudiantes para entrenar aún más la IA, lo que plantea preocupaciones sobre el uso comercial de información personal y la exposición potencial de datos sensibles. Además, para algunos distritos, cualquier tipo de uso comercial de información personal es ilegal.
Linnette aconseja a los distritos que se adhieran a prácticas fundamentales al adoptar nuevas herramientas:
Tener un objetivo claro: A pesar de la creciente popularidad de las herramientas GenAI, los distritos deben identificar una razón específica para su uso. Este enfoque garantiza que la herramienta se alinee con las necesidades del distrito y maximice su impacto en los resultados de los estudiantes.
Estar informado antes de probar: Los distritos deben comprender a fondo la herramienta, incluidas sus prácticas de privacidad, medidas de seguridad y términos del contrato, antes de comprometerse. Especialmente, los distritos deben asegurarse de que la herramienta se utilizará únicamente con fines educativos.
Comenzar con el personal: Probar las herramientas de IA con el personal, en lugar de los estudiantes, ayuda a evitar la exposición prematura de los datos de los estudiantes. Algunas empresas ofrecen pruebas beta o entornos de prueba para que el personal simule experiencias de los estudiantes, lo que puede ser una forma valiosa de evaluar la efectividad de la herramienta.
Un ejemplo práctico: Distrito Escolar Secundario de Hinsdale Township 86
Keith Bockwoldt, Director de Información del Distrito Escolar Secundario de Hinsdale Township 86 en Illinois, comparte el enfoque reflexivo de su distrito hacia GenAI. El programa ‘Reimaginando el Aprendizaje a través de la Innovación’ de Keith permite a los maestros probar nuevas herramientas financiadas por el presupuesto de IT del distrito. Los maestros presentan propuestas para su evaluación, que se evalúan para cumplir con las políticas de privacidad de datos antes de la implementación piloto. Luego, los maestros deben proporcionar evidencia del impacto de la herramienta para fin de año, y el departamento revisa si la herramienta debería ser adoptada de manera más amplia.
Keith destaca dos consideraciones críticas:
Cumplimiento del proveedor: Se asegura de que los proveedores estén al tanto y cumplan con las políticas de privacidad de datos, como la Ley de Protección Personal en Línea del Estudiante (SOPPA). Discute medidas de protección de datos, incluidas la purga de datos y las prácticas de almacenamiento.
Compromiso continuo con el proveedor: La comunicación continua con los proveedores es crucial para mantener el cumplimiento de los estándares de privacidad de datos.
Garantizar la accesibilidad
Jordan Mroziak, Director de Proyectos de IA y Educación en InnovateEDU, enfatiza la necesidad de un enfoque deliberado para adoptar nuevas tecnologías. Advierte contra la carrera educativa de adoptar productos de IA no probados o potencialmente inseguros. En cambio, los distritos deben centrarse en satisfacer las necesidades de todos los estudiantes, especialmente aquellos que están subatendidos o en desventaja. Como un recurso útil, Jordan compartió su trabajo y el de sus colegas con el Consejo de la Industria de IA EdSAFE, que tiene como objetivo ofrecer orientación y estándares confiables para los distritos que exploran herramientas GenAI. Las compañías se unen a esta alianza demostrando cómo sus productos se adhieren al marco SAFE para la IA, que se centra en la seguridad, la responsabilidad, la equidad, la igualdad y la eficacia. Este esfuerzo colectivo garantiza que las herramientas de IA se desarrollen con estos principios críticos en mente, promoviendo un uso responsable y efectivo.
Además, la reciente actualización del Título II de la ADA requiere que la accesibilidad sea priorizada desde el principio. Los distritos deben elegir herramientas de IA que cumplan con los estándares de la ADA y garanticen un acceso equitativo para todos los estudiantes. Este proceso incluye evaluar las herramientas para el cumplimiento de las pautas de accesibilidad, involucrar a partes interesadas diversas en las pruebas y hacer ajustes para satisfacer diversas necesidades de aprendizaje. Al abordar estos requisitos de manera proactiva, los distritos pueden garantizar que sus herramientas de IA sean inclusivas, efectivas y legalmente conformes, maximizando así los beneficios de la tecnología para cada estudiante.
Para obtener más recomendaciones sobre la implementación accesible de GenAI, lea el Blog 5 de esta serie: Adaptándose al Título II de la ADA: Estrategias efectivas para la IA accesible en la educación.
La integración de herramientas de Inteligencia Artificial Generativa en la educación ofrece oportunidades significativas para mejorar el aprendizaje y la eficiencia. Sin embargo, también plantea desafíos relacionados con la privacidad de datos y la accesibilidad. La implementación reflexiva y la evaluación continua son esenciales para maximizar los beneficios de estas herramientas mientras se garantiza la protección y el apoyo de todos los estudiantes.