El Education Reporting Collaborative, una coalición de ocho salas de redacción, está investigando las consecuencias no deseadas de la vigilancia alimentada por inteligencia artificial en las escuelas. Los miembros del Collaborative son AL.com, The Associated Press, The Christian Science Monitor, The Dallas Morning News, The Hechinger Report, Idaho Education News, The Post and Courier en Carolina del Sur y The Seattle Times.
Un estudiante preguntó a un motor de búsqueda: “¿Por qué mi novio me pega?” Otro amenazó con suicidarse en un correo electrónico a un amor no correspondido. Un adolescente gay se abrió en un diario en línea sobre las luchas con padres homofóbicos, escribiendo que solo querían ser ellos mismos.
En cada caso y miles de otros, el software de vigilancia alimentado por inteligencia artificial alertó de inmediato al personal de las Escuelas Públicas de Vancouver en el estado de Washington.
Vancouver y muchos otros distritos en todo el país han recurrido a la tecnología para monitorear dispositivos emitidos por la escuela las 24 horas del día, los 7 días de la semana en busca de cualquier señal de peligro mientras lidian con una crisis de salud mental estudiantil y la amenaza de tiroteos.
El objetivo es mantener seguros a los niños, pero estas herramientas plantean serias preguntas sobre privacidad y seguridad, como se demostró cuando los reporteros de Seattle Times y Associated Press recibieron inadvertidamente acceso a casi 3,500 documentos sensibles y no editados de estudiantes a través de una solicitud de registros sobre la tecnología de vigilancia del distrito.
Los documentos liberados muestran que los estudiantes utilizan estas computadoras portátiles para más que solo trabajo escolar; están lidiando con angustias en sus vidas personales.
Tim Reiland, de 42 años, centro, el padre de la hija Zoe Reiland, de 17 años, a la derecha, y Anakin Reiland, de 15 años, fotografiado en Clinton, Miss., el lunes 10 de marzo de 2025, dijo que no tenía idea de que sus escuelas anteriores, en Oklahoma, estaban utilizando tecnología de vigilancia para monitorear a los estudiantes. (AP Foto/Rogelio V. Solis)
Los estudiantes escribieron sobre depresión, desamor, suicidio, adicción, acoso escolar y trastornos alimentarios. Hay poemas, ensayos universitarios y fragmentos de sesiones de juego de roles con chatbots de inteligencia artificial.
El personal escolar de Vancouver y cualquier otra persona con enlaces a los archivos podían leer todo. Los cortafuegos o contraseñas no protegían los documentos, y los nombres de los estudiantes no estaban redactados, lo que los expertos en ciberseguridad advirtieron que era un riesgo de seguridad masivo.
Las herramientas de monitoreo a menudo ayudaron a los consejeros a comunicarse con los estudiantes que de otra manera podrían haber luchado en silencio. Pero el caso de Vancouver es un recordatorio contundente de las consecuencias no deseadas de la tecnología de vigilancia en las escuelas estadounidenses.
En algunos casos, la tecnología ha revelado la identidad de niños LGBTQ+ y ha erosionado la confianza entre los estudiantes y el personal escolar, sin lograr mantener las escuelas completamente seguras.
Gaggle, la empresa que desarrolló el software que rastrea la actividad en línea de los estudiantes de las escuelas de Vancouver, cree que no monitorear a los niños es como dejarlos sueltos en “un patio digital sin vallas ni supervisores de recreo”, dijo el CEO y fundador Jeff Patterson.
Relacionado: Mucho sucede en las aulas desde el jardín de infantes hasta la escuela secundaria. Mantente al día con nuestro boletín semanal gratuito sobre educación K-12.
Aproximadamente 1,500 distritos escolares en todo el país utilizan el software de Gaggle para rastrear la actividad en línea de aproximadamente 6 millones de estudiantes. Es una de las muchas empresas, como GoGuardian y Securly, que prometen mantener seguros a los niños a través de la vigilancia web asistida por inteligencia artificial.
La tecnología ha estado en alta demanda desde la pandemia, cuando casi todos los niños recibieron una tableta o computadora portátil emitida por la escuela. Según una investigación del Senado de los Estados Unidos, más de 7,000 escuelas o distritos utilizaron los productos de vigilancia de GoGuardian en 2021.
Las escuelas de Vancouver se disculparon por liberar los documentos. Aún así, el distrito enfatiza que Gaggle es necesario para proteger el bienestar de los estudiantes.
“No creo que nunca podríamos ponerle un precio a proteger a los estudiantes”, dijo Andy Meyer, director de la Escuela Preparatoria Skyview de Vancouver. “Cada vez que nos enteramos de algo así y podemos intervenir, sentimos que es muy positivo”.
Dacia Foster, una madre en el distrito, elogió los esfuerzos por mantener seguros a los estudiantes, pero se preocupa por las violaciones de privacidad.
“Eso no está nada bien”, dijo Foster después de enterarse de que el distrito liberó inadvertidamente los registros. “Pero, ¿cuáles son mis opciones? ¿Qué hago? ¿Retiro a mi hijo de la escuela?”
Foster dice que se disgustaría si la información privada de su hija fuera comprometida.
“Al mismo tiempo”, dijo, “me gustaría evitar un tiroteo escolar o un suicidio”.
Relacionado: Las empresas de tecnología educativa prometen resultados, pero sus afirmaciones a menudo se basan en investigaciones deficientes
Gaggle utiliza un algoritmo de aprendizaje automático para escanear lo que los estudiantes buscan o escriben en línea a través de una computadora portátil o tableta emitida por la escuela las 24 horas del día, los 7 días de la semana, o cada vez que inician sesión en su cuenta escolar en un dispositivo personal. El último contrato firmado por Vancouver, en el verano de 2024, muestra un precio de $328,036 por tres años escolares, aproximadamente el costo de emplear a un consejero adicional.
El algoritmo detecta posibles indicadores de problemas como el acoso escolar, autolesiones, suicidio o violencia escolar y luego envía una captura de pantalla a revisores humanos. Si los empleados de Gaggle confirman que el problema podría ser grave, la empresa alerta a la escuela. En casos de peligro inminente, Gaggle llama directamente a los funcionarios escolares. En raras ocasiones en las que nadie responde, Gaggle puede contactar a las autoridades para una verificación del bienestar.
Un consejero escolar de Vancouver que solicitó permanecer en el anonimato por temor a represalias dijo que reciben tres o cuatro alertas de Gaggle por estudiante al mes. En aproximadamente la mitad de los casos, el distrito se comunica con los padres de inmediato.
“Muchas veces, las familias no lo saben. Abrimos esa puerta para esa ayuda”, dijo el consejero. Gaggle es “bueno para detectar suicidios y autolesiones, pero los estudiantes encuentran una solución cuando saben que están siendo detectados”.
Los reporteros de Seattle Times y AP vieron qué tipo de escritura activaba las alertas de Gaggle después de solicitar información sobre el tipo de contenido que se marcaba. Gaggle guardó capturas de pantalla de la actividad que provocaba cada alerta, y los funcionarios escolares proporcionaron accidentalmente enlaces a ellas, sin darse cuenta de que no estaban protegidas por una contraseña.
Después de enterarse de los registros liberados inadvertidamente a los reporteros, Gaggle actualizó su sistema. Ahora, después de 72 horas, solo aquellos que hayan iniciado sesión en una cuenta de Gaggle pueden ver las capturas de pantalla. Gaggle dijo que esta función ya estaba en proceso, pero aún no se había implementado para todos los clientes.
La empresa dice que los enlaces deben ser accesibles sin iniciar sesión durante esas 72 horas para que los contactos de emergencia, que a menudo reciben estas alertas tarde en la noche en sus teléfonos, puedan responder rápidamente.
En Vancouver, la tecnología de monitoreo marcó más de 1,000 documentos por suicidio y casi 800 por amenazas de violencia. Si bien muchas alertas eran serias, muchas otras resultaron ser falsas alarmas, como un ensayo de un estudiante sobre la importancia del consentimiento o una charla divertida entre amigos.
La hija de Foster, Bryn, una estudiante de segundo año de la Escuela de Artes y Académicas de Vancouver, fue una de esas falsas alarmas. Fue llamada a la oficina del director después de escribir un cuento corto con imágenes ligeramente violentas.
“Me alegra que estén siendo cuidadosos al respecto, pero también creo que puede ser un poco excesivo”, dijo Bryn.
Los funcionarios escolares sostienen que las alertas son justificadas incluso en casos menos graves o falsas alarmas, asegurando que los problemas potenciales se aborden de inmediato.
“Me brinda la oportunidad de reunirme con un estudiante con el que quizás no me he reunido antes y construir esa relación”, dijo Chele Pierce, consejera de la Escuela Preparatoria Skyview.
Relacionado: Los estudiantes trabajan más duro cuando creen que están siendo observados
Entre octubre de 2023 y octubre de 2024, cerca de 2,200 estudiantes, aproximadamente el 10% de la inscripción del distrito, fueron objeto de una alerta de Gaggle. En la Escuela de Artes y Académicas de Vancouver, donde Bryn es estudiante, aproximadamente 1 de cada 4 estudiantes tuvo comunicaciones que activaron una alerta de Gaggle.
Mientras las escuelas continúan utilizando tecnología de vigilancia, sus efectos a largo plazo en la seguridad de los estudiantes no están claros. No hay investigaciones independientes que muestren que reduce de manera medible las tasas de suicidio estudiantil o la violencia.
Un estudio de RAND de 2023 encontró solo “evidencia escasa” de beneficios o riesgos de la vigilancia de IA, concluyendo: “Hasta la fecha, ninguna investigación ha examinado de manera exhaustiva cómo estos programas afectan la prevención del suicidio en los jóvenes”.
“Si no tienes el número correcto de consejeros de salud mental, emitir más alertas realmente no mejorará la prevención del suicidio”, dijo el coautor del informe Benjamin Boudreaux, investigador de ética de la IA.
En las capturas de pantalla liberadas por las escuelas de Vancouver, al menos seis estudiantes fueron potencialmente revelados a los funcionarios escolares después de escribir sobre ser gay, trans o lidiar con disforia de género.
Los estudiantes LGBTQ+ tienen más probabilidades que sus compañeros de sufrir depresión y pensamientos suicidas, y recurren a internet en busca de apoyo.
“Sabemos que los jóvenes homosexuales, especialmente aquellos en entornos más aislados, utilizan absolutamente internet como un salvavidas”, dijo Katy Pearce, profesora de la Universidad de Washington que investiga la tecnología en estados autoritarios.
En una captura de pantalla, un estudiante de secundaria de Vancouver escribió en un formulario de encuesta de Google que había sido objeto de insultos transgénero y acoso racista. No está claro quién creó esta encuesta, pero la persona detrás de ella había prometido falsamente confidencialidad: “No soy un reportero obligado, por favor cuéntame toda la verdad”.
Cuando las Escuelas Públicas de Durham en Carolina del Norte probaron Gaggle en 2021, las encuestas mostraron que la mayoría del personal lo encontraba útil.
Pero los miembros de la comunidad expresaron preocupaciones. Un defensor LGBTQ+ informó a la Junta de Educación que una alerta de Gaggle sobre autolesiones había llevado a que un estudiante fuera revelado a su familia, que no era comprensiva.
Glenn Thompson, ex alumno de la Escuela de Artes de Durham, posa frente a la escuela en Durham, N.C., el lunes 10 de marzo de 2025. (AP Foto/Karl DeBlaker)
Glenn Thompson, un ex alumno de la Escuela de Artes de Durham, habló en una reunión de la junta durante su último año. Uno de sus maestros prometió confidencialidad a un estudiante para una tarea relacionada con la salud mental. Un compañero de clase fue luego “sorprendido” cuando Gaggle alertó a los funcionarios escolares sobre algo privado que habían revelado. Thompson dijo que nadie en la clase, incluido el maestro, sabía que la escuela estaba probando Gaggle.
“No puedes simplemente (vigilar) a las personas y no decirles. Esa es una horrible violación de seguridad y confianza”, dijo Thompson, ahora estudiante universitario, en una entrevista.
Después de escuchar sobre estas experiencias, la Junta de Educación de Durham votó por dejar de usar Gaggle en 2023. El distrito finalmente decidió que no valía la pena el riesgo de revelar la identidad de los estudiantes o erosionar las relaciones con los adultos.
Relacionado: La tecnología educativa escolar se desperdicia en su mayoría. Un estado tiene una solución
El debate sobre la privacidad y la seguridad es complicado, y los padres a menudo no son conscientes de que es un problema. Pearce, la profesora de la Universidad de Washington, no recuerda haber leído sobre Securly, el software de vigilancia que utilizan las Escuelas Públicas de Seattle, cuando firmó el formulario de uso responsable del distrito antes de que su hijo recibiera una computadora portátil escolar.
Incluso cuando las familias se enteran de la vigilancia escolar, es posible que no puedan optar por no participar. Las Escuelas Públicas de Owasso en Oklahoma han utilizado Gaggle desde 2016 para monitorear a los estudiantes fuera de clase.
Por años, Tim Reiland, el padre de dos adolescentes, no tenía idea de que el distrito estaba usando Gaggle. Se enteró solo después de preguntar si su hija podía llevar su computadora portátil personal a la escuela en lugar de verse obligada a usar una del distrito por preocupaciones de privacidad.
El distrito rechazó la solicitud de Reiland.
Cuando su hija, Zoe, se enteró de Gaggle, dice que se sintió tan “asustada” que dejó de buscar cualquier cosa personal en su Chromebook, incluso preguntas sobre su período menstrual. No quería ser llamada a la oficina por “buscar partes femeninas”.
“Tenía demasiado miedo de ser curiosa”, dijo.
Los funcionarios escolares dicen que no rastrean métricas que midan la eficacia de la tecnología, pero creen que ha salvado vidas.
Sin embargo, la tecnología por sí sola no crea un espacio seguro para todos los estudiantes. En 2024, un adolescente no binario en la Escuela Preparatoria de Owasso llamado Nex Benedict murió por suicidio después de ser objeto de acoso constante por parte de compañeros de clase. Una investigación posterior de la Oficina de Derechos Civiles del Departamento de Educación de EE. UU. encontró que el distrito respondió con “indiferencia deliberada” a los informes de acoso sexual de algunas familias, principalmente en forma de acoso homofóbico.
Durante el año escolar 2023-24, las escuelas de Owasso recibieron cerca de 1,000 alertas de Gaggle, incluidas 168 alertas por acoso y 281 por suicidio.
Cuando se le preguntó por qué el acoso seguía siendo un problema a pesar de la vigilancia, Russell Thornton, director ejecutivo de tecnología del distrito, respondió: “Esta es una herramienta utilizada por los administradores. Obviamente, una herramienta no va a resolver los problemas del mundo y el acoso”.
Relacionado: Las escuelas resultan ser blancos fáciles para los hackers
A pesar de los riesgos, la tecnología de vigilancia puede ayudar a los maestros a intervenir antes de una tragedia.
Un estudiante de secundaria en el Distrito Escolar de Highline en el área de Seattle que pot