1
Estudiantes de una escuela compartieron imágenes de compañeras suyas desnudas generadas por inteligencia artificial
Una de ellas fue expulsada por pelearse con un compañero de clase que habría compartido las fotos
10 minutos de lectura'
Las burlas eran incesantes. Las imágenes de una niña de 13 años y sus amigas desnudas, generadas por inteligencia artificial, circulaban por las redes sociales y se habían convertido en la comidilla de una escuela secundaria de Luisiana.
Las chicas suplicaron ayuda, primero a un orientador escolar y luego a un ayudante del sheriff asignado a su escuela. Pero las imágenes se compartieron en Snapchat, una aplicación que borra los mensajes segundos después de ser vistos, y los adultos no pudieron encontrarlas. El director dudaba incluso de que existieran.
Entre los niños, las fotos seguían difundiéndose. Cuando la niña de 13 años subió al autobús escolar de Lafourche Parish al final del día, un compañero de clase estaba enseñando una de ellas a un amigo. “Fue entonces cuando me enfadé”, recordó la alumna de octavo curso en su audiencia disciplinaria.
Harta, atacó a un chico en el autobús, invitando a otros a unirse a ella. La expulsaron de la Sixth Ward Middle School durante más de 10 semanas y la enviaron a una escuela alternativa. Dijo que el chico del que ella y sus amigos sospechaban que había creado las imágenes no fue enviado a esa escuela alternativa con ella. Los abogados de la niña de 13 años alegan que eludió la disciplina escolar.
Cuando el departamento del sheriff investigó el caso, tomó las medidas contrarias. Acusaron a dos de los chicos que habían sido acusados de compartir imágenes explícitas y no a la chica.
El episodio de Luisiana pone de relieve el potencial de pesadilla de los deepfakes de IA. Pueden trastornar, y de hecho trastornan, la vida de los niños, en la escuela y en casa. Y aunque las escuelas están trabajando para hacer frente a la inteligencia artificial en la enseñanza en el aula, a menudo han hecho poco para prepararse para lo que la nueva tecnología significa para el acoso cibernético.
Una vez más, a medida que los niños utilizan cada vez más las nuevas tecnologías para hacerse daño, los adultos se quedan atrás, afirma Sergio Alexander, investigador asociado de la Universidad Cristiana de Texas especializado en tecnologías emergentes. “Cuando ignoramos el daño digital, el único momento que se hace visible es cuando la víctima finalmente se quiebra”, afirma Alexander.
En Lafourche Parish, el distrito escolar siguió todos sus protocolos de denuncia de mala conducta, dijo el superintendente Jarod Martin en un comunicado. Dijo que se había presentado una “historia unilateral” del caso que no ilustra su “totalidad y naturaleza compleja”.
La pesadilla de una niña empieza con rumores
Después de oír rumores sobre las imágenes de desnudos, la niña de 13 años dijo que marchó con dos amigas -una casi llorando- al consejero de orientación sobre las 7 de la mañana del 26 de agosto. The Associated Press no la nombra, porque es menor de edad y porque AP no suele nombrar a las víctimas de delitos sexuales.
Ella estaba allí como apoyo moral, sin darse cuenta, inicialmente, de que también había imágenes de ella, según el testimonio en su audiencia disciplinaria escolar.
Al final, la investigación de semanas de duración en la escuela de Thibodaux, a unos 72 kilómetros al suroeste de Nueva Orleans, descubrió imágenes de desnudos generadas por IA de ocho alumnas de secundaria y dos adultos, según informó el distrito y la oficina del sheriff en un comunicado conjunto.
El padre de la niña, Joseph Daniels, las describió como “desnudos integrales con su cara”. Daniels ha hablado públicamente con varios medios de comunicación para llamar la atención sobre cómo se manejó el caso.
Hasta hace poco, se necesitaba cierta habilidad técnica para hacer deepfakes realistas. Ahora, gracias a la tecnología, es fácil arrancar una foto de las redes sociales, “desnudarla” y crear una pesadilla viral para un compañero desprevenido.
La mayoría de los centros de enseñanza “esconden la cabeza bajo el ala, esperando que esto no ocurra”, afirma Sameer Hinduja, codirector del Centro de Investigación sobre el Ciberacoso y profesor de Criminología de la Universidad Atlántica de Florida.
El distrito escolar de Lafourche Parish estaba empezando a desarrollar políticas sobre inteligencia artificial. Según los documentos facilitados a través de una solicitud de registros, las directrices sobre IA a nivel escolar se referían principalmente al ámbito académico. El distrito tampoco había actualizado su formación sobre ciberacoso para reflejar la amenaza de las imágenes sexualmente explícitas generadas por IA. El plan de estudios que utilizaban sus escuelas era de 2018.
Una investigación escolar se topa con obstáculos
Aunque las chicas de la Sixth Ward Middle School no habían visto las imágenes de primera mano, habían oído hablar de ellas a chicos de la escuela. Basándose en esas conversaciones, las chicas acusaron a un compañero de clase y a dos estudiantes de otras escuelas de crear y difundir los desnudos en Snapchat y posiblemente en TikTok.
La directora, Danielle Coriell, dijo que la investigación no dio resultado ese día, ya que ningún alumno asumió la responsabilidad. El adjunto asignado a la escuela buscó sin éxito las imágenes en las redes sociales, según una grabación de la audiencia disciplinaria. “Me hicieron creer que no eran más que habladurías y rumores”, dijo el padre de la niña, relatando una conversación que tuvo esa mañana con el orientador del colegio.
Pero la niña se sentía desgraciada y un informe policial de incidentes mostraba que más niñas estaban denunciando que ellas también eran víctimas. La niña de 13 años volvió al consejero por la tarde, pidiendo llamar a su padre. Dice que se lo negaron.
Su padre dice que ella envió un mensaje de texto que decía: “Papá”, y nada más. No hablaron. Con las burlas implacables, la niña mandó un mensaje a su hermana: “Esto no se lleva”.
Al final de la jornada escolar, el director se mostró escéptico. En la audiencia disciplinaria, el abogado de la chica preguntó por qué el ayudante del sheriff no comprobó el teléfono del chico al que acusaban las chicas y por qué se le permitió subir al mismo autobús que a la chica.
“Los chicos mienten mucho”, respondió Coriell, el director. “Mienten sobre todo tipo de cosas. Exageran muchas cosas a diario. En 17 años, lo hacen todo el tiempo. Así que, que yo sepa, a las 2 en punto, cuando volví a comprobarlo, no había ninguna foto”.
Empieza una pelea en el autobús escolar
Cuando la chica subió al autobús 15 minutos después, el chico estaba mostrando las imágenes generadas por la IA a una amiga. En el teléfono del chico se veían imágenes de desnudos falsos de sus amigas, según la chica, una afirmación respaldada por una foto tomada en el autobús. Un video del autobús escolar mostraba al menos a media docena de estudiantes difundiendo las imágenes, dijo Martin, el superintendente, en una reunión del consejo escolar.
“Pasé todo el día sufriendo acoso y burlas por mi cuerpo”, dijo la chica en su comparecencia. Explicó que, cuando subió al autobús, la ira iba en aumento. Después de ver al chico y su teléfono, le dio una bofetada, dijo Coriell, el director. El chico se encogió de hombros ante la bofetada, según muestra un vídeo.
Le pegó una segunda vez. Entonces, según contó el director, la chica preguntó en voz alta: “¿Por qué soy la única que hace esto?”. Dos compañeros golpearon luego al chico, antes de que la niña de 13 años se subiera a un asiento y le diera puñetazos y pisotones.
El vídeo de la pelea se publicó en Facebook. “El sentimiento abrumador en las redes sociales fue de indignación y de exigencia de que los alumnos implicados en la pelea rindieran cuentas”, afirmó el distrito y la oficina del sheriff en un comunicado conjunto publicado en noviembre.
La niña no había tenido problemas disciplinarios en el pasado, pero fue asignada a una escuela alternativa cuando el distrito decidió expulsarla durante un semestre completo, 89 días lectivos.
Semanas después, un niño es acusado
Fue el día de la audiencia disciplinaria de la chica, tres semanas después de la pelea, cuando se acusó al primero de los chicos. El estudiante fue acusado de 10 cargos de difusión ilegal de imágenes creadas por inteligencia artificial en virtud de una nueva ley del estado de Luisiana, que forma parte de una oleada de leyes de este tipo en todo el país. Un segundo chico fue acusado en diciembre con cargos idénticos, dijo el departamento del sheriff, aunque ninguno de los dos fue identificado por las autoridades debido a su edad.
La chica no se enfrentaría a cargos debido a lo que la oficina del sheriff describió como la “totalidad de las circunstancias”. En la vista disciplinaria, el director se negó a responder a las preguntas de los abogados de la chica sobre el tipo de disciplina escolar a la que se enfrentaría el chico.
El distrito dijo en un comunicado que las leyes federales de privacidad de los estudiantes le prohíben discutir los registros disciplinarios individuales de los estudiantes. Gregory Miller, un abogado de la niña, dijo que no tiene conocimiento de ninguna disciplina escolar para el compañero de clase acusado de compartir las imágenes.
Finalmente, el tribunal expulsó a la niña de 13 años. Ella lloró, según contó su padre. “Sintió que la habían victimizado varias veces: por las fotos, porque el colegio no le creyó, porque la metieron en un autobús y luego la expulsaron por sus acciones”, dijo en una entrevista.
Las consecuencias desvían a un estudiante
Después de ser enviada a la escuela alternativa, la niña empezó a saltarse comidas, dijo su padre. Incapaz de concentrarse, no completó ninguno de los trabajos en línea de la escuela durante varios días antes de que su padre la llevara a terapia por depresión y ansiedad.
Al principio nadie se dio cuenta cuando dejó de hacer sus tareas, dijo su padre. “Como que se quedó atrás”, describió. Sus abogados apelaron al consejo escolar y se programó otra vista para siete semanas después.
Para entonces, había pasado tanto tiempo que podría haber regresado a su antigua escuela en libertad condicional. Pero como había faltado a clase antes de recibir tratamiento para la depresión, el distrito quería que permaneciera en el centro alternativo otras 12 semanas.
Para los alumnos suspendidos o expulsados, el impacto puede durar años. Tienen más probabilidades de volver a ser suspendidos. Se desconectan de sus compañeros y es más probable que se desvinculen de la escuela. Son más propensos a tener notas más bajas y tasas de graduación más bajas.
“Ya ha estado fuera de la escuela lo suficiente”, dijo uno de los abogados de la niña, Matt Ory, a la junta el 5 de noviembre. “Es una víctima. Ella”, repitió, “es una víctima”. Martin, el superintendente, contraatacó: “A veces en la vida podemos ser víctimas y victimarios”.
Pero la junta se dejó influir. Un miembro, Henry Lafont, dijo: “Hay muchas cosas en ese video que no me gustan. Pero también intento poner en perspectiva lo que ella pasó todo el día”. Le permitieron volver al campus inmediatamente. Su primer día de vuelta al colegio fue el 7 de noviembre, aunque permanecerá en libertad condicional hasta el 29 de enero.
Eso significa que no habrá bailes, deportes ni actividades extraescolares. Ya se perdió las pruebas de baloncesto, lo que significa que no podrá jugar esta temporada, dijo su padre. La situación le parece “desgarradora”.
“Esperaba que hiciera grandes amigos, que fueran juntos al instituto y, ya sabes, que todo el mundo se mantuviera alejado de los problemas por el buen camino”, dijo su padre. “Creo que arruinaron eso”.
AP
Más leídas de Tecnología
2Apple indemnizará a usuarios de Argentina por una baja en el rendimiento del iPhone: quiénes pueden reclamar y cuánto cobrarán
3Es piloto de avión, se asoció con un argentino y usaron IA para diseñar una nueva forma de capacitar a la gente
4Bill Gates advirtió que la IA sin control podría causar “miles de millones de muertes”