Una IA identificó erróneamente a una activista argentina en un video de Ceuta: denuncia hostigamiento y amenazas

El pasado 26 de agosto, Flavia Broffoni recibió un mail cuyo asunto decía: “Si estás en Ceuta, tené cuidado”. Como no conocía a la remitente, no le prestó demasiada atención. Recién por la tarde, cuando revisó nuevamente sus correos y abrió el mensaje, descubrió que la advertencia estaba dirigida específicamente a ella.

Una mujer a la que no conocía le avisó que en varios grupos de WhatsApp de Ceuta estaban circulando videos e imágenes suyas y que se decía que estaba proporcionando gas pimienta a inmigrantes marroquíes para enfrentarse a las fuerzas de seguridad locales.

“Mi primera reacción fue reírme; me parecía un delirio. Yo estoy en la Patagonia, Argentina y nunca tuve relación con lo que está ocurriendo allá. La última vez que estuve en España, si mal no recuerdo, fue en 2014, por trabajo”, relató a LA NACION Flavia desde Epuyén, Chubut.

Sin embargo, cuando empezó a dimensionar que podía ser algo serio, entró a Instagram y encontró varios mensajes de personas que le preguntaban si estaba en España. Después comenzaron a llegarle publicaciones de personas de Ceuta que difundían información falsa en medio del clima de odio y violencia que atravesaba el territorio. Los comentarios que acompañaban esas publicaciones eran alarmantes.

“Recibí amenazas de muerte, de violación y ataques en general”, contó Flavia. Ella es politóloga y activista. Fue directora de estrategias ambientales de la Ciudad de Buenos Aires durante el gobierno macrista, también gerente de sustentabilidad para el Cono Sur de Tetra Pak y coordinadora de políticas en la Fundación Vida Silvestre Argentina.

Flavia le preguntó a la persona que le había enviado el mail de advertencia de dónde había surgido la acusación. La mujer le envió una captura de pantalla de un grupo de WhatsApp. En la imagen se veía que uno de los usuarios había tomado un recorte del rostro de la mujer del video y lo había ingresado en una herramienta de inteligencia artificial de Google para consultarle quién era. La consulta incluía como contexto la palabra “activista”. La respuesta identificaba a la persona de la fotografía como Flavia Broffoni y agregaba información sobre su actividad pública: que era politóloga, activista, escritora y argentina.

Según analiza Broffoni, la maniobra se sostiene sobre tres mentiras consecutivas. La primera es la falsedad de identidad: Flavia no era la mujer que aparecía en la imagen real registrada en Ceuta. La segunda, la falsedad del hecho: no existe ningún tipo de prueba o evidencia de que la mujer real del video original estuviese repartiendo gas pimienta a migrantes, como se difundió en los chats que se viralizaron. La tercera es la atribución de la IA: toda la acusación delictiva inventada terminó adjudicada a su persona debido al error categórico de identificación del sistema de inteligencia artificial.

“Es tal la certeza de veracidad que se le asigna a la inteligencia artificial que directamente se toma como verdad una respuesta que no tuvo ningún tipo de asidero en la realidad”, advierte Broffoni sobre la facilidad con la que este triple engaño se instaló en redes sociales.

Consultada por LA NACION, voceros de Google Argentina señalaron que no pueden confirmar que la captura corresponda a una respuesta generada por sus sistemas porque no cuentan con un enlace al resultado original. Además, indicaron que no tenían conocimiento previo del caso porque no han recibido un reporte formal.

Este medio también probó utilizar la búsqueda de Google a partir del video de la mujer que filmó en Ceuta, y la respuesta de la IA fue afirmar que se trataba de otra persona, una estudiante y community manager oriunda de Quilmes, de la cual brindó datos personales y redes sociales.

La preocupación de Broffoni dejó de ser solamente que la hubieran confundido con otra persona. El episodio le planteó una pregunta más amplia: qué puede ocurrir cuando una inteligencia artificial proporciona una identificación errónea.

“El episodio podría sentar un precedente sobre los riesgos”, afirmó. Según ella, lo novedoso es que el resultado de la IA genere afirmaciones. En su caso, generó un acierto categórico sobre que la de la foto era ella.

Consultó a especialistas sobre el funcionamiento de estas herramientas. Algunas de las primeras respuestas que recibió fueron que las inteligencias artificiales no podían reconocer rostros. Sin embargo, otras personas realizaron pruebas con la misma fotografía y obtuvieron respuestas diferentes: en algunos casos, la herramienta se negó a identificar a la persona y, en otros, comenzó a formular una identificación cuando se le proporcionó determinado contexto.

En una de esas pruebas, según contó Broffoni, la herramienta respondió que era “muy probablemente” ella y justificó la respuesta a partir de características como su actividad como activista, el pelo corto y el color castaño. El problema, señala, es que parte de esa información correspondía a fotografías antiguas: actualmente tiene el pelo largo y canoso.

Para Marina Benítez Demtschenko, abogada especializada en derecho informático y representante legal de Broffoni, el caso presenta una diferencia respecto de una equivocación convencional. “La equivocación que proviene de una persona es determinada o determinable, pero el daño de un sistema cuya explicabilidad no está disponible nos deja indefensos”, detalló a LA NACION.

Según la letrada, en estos casos la persona afectada no solo debe afrontar las consecuencias del tratamiento de sus datos, sino que además puede tener dificultades para conocer cómo el sistema llegó a ese resultado y, por lo tanto, para reclamar. En el caso de Broffoni, considera que están en juego derechos que van más allá de la reputación: “La integridad física y la integridad psicológica son los dos más gravitantes. Ni hablar de su reputación digital”, sostuvo.

“Si una IA proporciona una identificación falsa, la responsabilidad está en cabeza de la compañía desarrolladora de ese modelo”, argumentó Benítez Demtschenko. A su entender, esto puede estar relacionado con la falta de explicabilidad y con los márgenes de error que pueden derivar en situaciones como la que atravesó Broffoni.

La especialista también señaló que existe un segundo nivel de responsabilidad vinculado con quienes utilizan y difunden el resultado y con las plataformas que permiten que esos contenidos permanezcan y se amplifiquen. “Cualquier acto que pudiera causar daños a derechos de terceros es un límite a la libertad de expresión”, sostuvo.

Sin embargo, aclaró que determinar qué acción corresponde en un caso concreto depende de las circunstancias, de la pretensión de la persona afectada y de la evidencia disponible. En ese sentido, remarcó que la aparición de nuevas tecnologías no implica necesariamente un vacío legal: existen herramientas jurídicas que pueden aplicarse, aunque los abogados deben abordar estos casos de una manera diferente a los conflictos tradicionales.

“Cuando tenemos evidencia digital, hay que validarla para presentarla en las actuaciones”, explicó. Por eso, para avanzar legalmente en un caso de estas características resulta relevante poder reconstruir la cadena completa: qué imagen se utilizó, quién realizó la consulta, qué respuesta produjo la herramienta, quién la difundió posteriormente y hasta dónde llegó el contenido.

Para Broffoni, el caso también plantea un problema que excede su situación personal. La activista considera que una falsa identificación puede poner en riesgo a cualquier persona, especialmente a quienes tienen exposición pública o participan de actividades políticas o de activismo.

El contexto en el que ocurrió el episodio también es determinante. La falsa acusación apareció en medio de un escenario de violencia y tensión en Ceuta, donde la circulación de información falsa puede contribuir a profundizar la hostilidad existente.

Para la abogada, la discusión no debería comenzar cuando una persona ya fue atacada, sino antes. “Tenemos que pensar en cómo evitar llegar a esto”, planteó. En su opinión, el caso muestra la necesidad de discutir medidas preventivas, mecanismos de seguridad, canales adecuados para que las personas puedan reclamar y mayores niveles de explicabilidad sobre el funcionamiento de los modelos.

“Esto expone a cualquiera a que, por un error de una inteligencia artificial, termine linchado”, advirtió. Por ahora, Broffoni y su abogada trabajan en una estrategia legal y esperan avanzar durante los próximos días.

Por Aldana Rizzuto

• Inteligencia artificial
• Redes sociales
• Amenazas

---

Conforme a