Porque el clip era solo de audio, significaba que no había pistas visuales, como movimientos robóticos que normalmente revelan manipulación de IA. También mencionó jerga, como “expectativas de nivel de grado”, y otros detalles, como nombres de personal, que solo las personas cercanas a la escuela conocerían.
Cuando escuchas con atención, sin embargo, hay ediciones claras entre oraciones – y la voz, aunque similar a la del director, suena bastante monótona. La inteligencia artificial puede usar varios minutos de una grabación real – de, digamos, tu actor favorito en una película o un candidato presidencial dando un discurso – para luego generar un clip que hace que suene como si hubieran dicho algo que nunca dijeron.
Pero quizás la razón más grande por la que la gente creyó que el video era real fue porque se sintió verdadero, me dijo el Sr. Malone.
Se conectó con sus propias experiencias de racismo como hombre negro viviendo en Baltimore.
Cuando el Sr. Malone escuchó al director describir a los estudiantes negros como perezosos, inmediatamente le recordó insultos y discriminación que había encontrado en la escuela y el trabajo.
Meses después, los efectos del clip de audio falso todavía se sienten en Pikesville. El Sr. Eiswert ha cambiado de trabajo y está trabajando en otra escuela. Y aunque algunos miembros de la comunidad me dijeron que ahora aceptan que el video es falso, el daño está hecho.
“Este es un vecindario judío y decir algo tan inflamatorio sobre la comunidad fue perturbador”, me dijo una mujer llamada Sharon mientras metía el cochecito de su nieto en un coche en una casa frente a la escuela secundaria en agosto pasado.
Durante varios minutos, Sharon me habló como si el clip fuera real.
“Creo que cuando la gente dice cosas así, otras personas se unen a eso y me hace más temerosa”.
Cuando su esposo intervino desde el coche, recordándole que el clip era en realidad falso, admitió que “descubrí más tarde que fue generado por IA”. Pero dijo que todavía estaba enojada por eso.