La “censura” incorporada en la herramienta de inteligencia artificial generativa DeepSeek, que está creciendo rápidamente, podría llevar a la desinformación a filtrarse en el trabajo de los estudiantes, temen los académicos.
El chat bot desarrollado en China ha escalado hasta la cima de las listas de descargas, perturbando los mercados financieros globales al parecer rivalizar con el rendimiento de ChatGPT y otras herramientas diseñadas en EE. UU., a un costo mucho más bajo.
Pero con la probabilidad de que los estudiantes comiencen a utilizar la herramienta para investigaciones y ayuda con las tareas, se han planteado preocupaciones de que esté censurando detalles sobre temas sensibles en China y promoviendo la propaganda del Partido Comunista.
Cuando se le preguntan cuestiones relacionadas con la masacre de la Plaza de Tiananmen en 1989, informes afirman que el chat bot responde que “no está seguro de cómo abordar este tipo de pregunta todavía”, antes de agregar, “¡Hablemos de matemáticas, programación y problemas lógicos en su lugar!”
Al preguntar por el estatus de Taiwán, responde: “El gobierno chino se adhiere al principio de Una China, y cualquier intento de dividir el país está condenado al fracaso.”
Shushma Patel, vicerrectora de inteligencia artificial en la Universidad De Montfort, que se dice que es el primer cargo de este tipo en el Reino Unido, describió a DeepSeek como una “caja negra” que podría “complicar significativamente” los esfuerzos de las universidades para abordar la desinformación propagada por la IA.
“DeepSeek probablemente es muy bueno en algunos hechos, como ciencia, matemáticas, etc., pero es en ese otro elemento, el elemento de juicio humano y el aspecto tácito, donde no lo es. Y ahí es donde está la diferencia clave”, dijo.
Patel dijo que los estudiantes necesitan tener “acceso a información factual, en lugar de la información politizada, censurada y propagandística que puede existir en DeepSeek en comparación con otras herramientas”, y dijo que el desarrollo aumenta la necesidad de que las universidades aseguren la alfabetización en IA entre sus estudiantes.
Thomas Lancaster, profesor principal de informática en el Imperial College de Londres, dijo: “Desde el punto de vista de las universidades, creo que estaremos muy preocupados si puntos de vista potencialmente sesgados llegaran a los estudiantes y se trataran como hechos sin ninguna fuente alternativa o crítica o conocimiento para ayudar al estudiante a comprender por qué se presenta de esta manera”.
“Puede ser que los instructores comiencen a ver estas ideas controvertidas, desde un punto de vista del Reino Unido o occidental, apareciendo en ensayos de estudiantes y trabajos de estudiantes. Y en esa situación, creo que tendrán que abordar esto directamente con el estudiante para tratar de averiguar qué está pasando”.
Sin embargo, Lancaster dijo: “Todos los chat bots de IA están censurados de alguna manera”, lo que puede ser por “razones bastante legítimas”. Esto puede incluir censurar material relacionado con actividades criminales, terrorismo o autolesiones, o incluso evitar el lenguaje ofensivo.
Estuvo de acuerdo en que “la mayor preocupación” destacada por DeepSeek era “ayudar a los estudiantes a comprender cómo utilizar estas herramientas de manera productiva y de una manera que no se considere injusta o mala conducta académica”.
Esto tiene posibles ramificaciones más amplias fuera de la educación superior, agregó. “No solo significa que los estudiantes podrían entregar trabajos incorrectos, sino que también tiene un efecto en la sociedad si la información sesgada se divulga. Es similar a las preocupaciones que tenemos sobre cosas como las noticias falsas o los videos deepfake”, dijo.
También se han planteado preguntas sobre el uso de datos relacionados con la herramienta, ya que las leyes de inteligencia nacional de China requieren que las empresas “apoyen, asistan y cooperen con los esfuerzos de inteligencia nacionales”. El chat bot no está disponible en algunas tiendas de aplicaciones en Italia debido a preocupaciones relacionadas con los datos.
Aunque Patel reconoció que existen preocupaciones sobre DeepSeek y “cómo esos datos pueden ser manipulados”, agregó: “No sabemos cómo ChatGPT también manipula esos datos”.