El despropósito de un video apócrifo para manipular el voto

Los argentinos hemos presenciado, sin asombro (porque vivimos en la Argentina, donde nada puede sorprendernos), cómo el sábado por la tarde, antes de las elecciones legislativas de la CABA, comenzó a circular por redes sociales un supuesto video del expresidente Mauricio Macri en el cual apoyaba la candidatura de Manuel Adorni, del partido libertario (LLA), y en el cual manifestaba que había tomado la decisión de dar de baja la candidatura de Silvia Lospennato; concluía con música de fondo estilo película patriótica: “…votemos todos al candidato del presidente Milei y no permitamos que el kirchnerismo gane en la ciudad de Buenos Aires…”.

El video falso, construido con tecnología de inteligencia artificial, fue viralizado en redes sociales (en particular X) y generó confusión y situaciones equívocas en el electorado.

Frente a semejante despropósito, Pro formuló una denuncia penal por una supuesta maniobra de manipulación y tentativa de fraude electoral por parte de LLA; el expresidente Macri manifestó, entre otras cosas, que lo que se estaba viviendo era una locura que rompía todas las reglas del juego, y Silvia Lospennato refirió que se estaba viviendo un nuevo ataque por parte de LLA contra su partido y contra la democracia, mientras el fiscal porteño Maximiliano Vence (que seguramente no pensaba trabajar un domingo), junto con el Tribunal Electoral, en paralelo, le requería a X la eliminación y/o el bloqueo del contenido apócrifo.

El hecho ocurrido no constituye una novedad, ya que reconoce precedentes en otros países en los que se han utilizado deepfakes para manipular el voto.

Recordemos el reciente caso de la megaestrella del pop Taylor Swift, quien, luego del debate presidencial de los Estados Unidos entre Donald Trump y Kamala Harris, apoyó la candidatura de la demócrata a través de la red social Instagram, en la que cuenta con más de 280 millones de seguidores.

Después de eso, algún oportunista, supuestamente republicano, creó un video falso de Taylor en el que esta manifestaba que votaría por Donald Trump. Swift advirtió esta situación e hizo pública una declaración en la cual refería que una imitación de ella, creada con inteligencia artificial (IA), respaldaba en su nombre, falsamente, la candidatura de Donald Trump, lo cual había hecho revivir sus temores sobre la IA y los peligros de difundir información falsa.

Ambos casos, el de Taylor Swift y el de Mauricio Macri, salvando las diferencias, reconocerían una misma intención subyacente: engañar al votante para inclinar la balanza electoral.

Existen otros tantos e innumerables casos de desinformación de la opinión pública, que comprenden, por ejemplo, las elecciones presidenciales de los Estados Unidos en 2016, las elecciones de Brasil con Bolsonaro, el Brexit en el Reino Unido y el famoso caso de Cambridge Analytica, que tuvo como actor principal a Facebook (ahora Meta), sobre los cuales nos hemos expedido oportunamente.

A partir de estas ideas, recordemos que, desde el punto de vista conceptual, denominamos tecnología deepfake a un sistema de inteligencia artificial que permite editar videos y voces falsas de personas que aparentemente son reales, pero que no lo son, utilizando para eso algoritmos de aprendizaje no supervisados e imágenes que usualmente son tomadas de las redes sociales.

Ahora bien, en relación con el hecho puntual ocurrido el sábado último, y dejando de lado el cambalache político, desde el punto de vista técnico y jurídico, el acontecimiento sucedido merece reproche de la ley civil, como asimismo de la penal.

La responsabilidad legal puede alcanzar tanto al autor del contenido falso (el editor del contenido) como a quienes lo viralizaron mediante la utilización de redes sociales o cualquier otro medio informático.

Para analizar el esquema de responsabilidad penal, partamos de la idea de que la clonación de imagen y voz, mediante la utilización de sistemas de inteligencia artificial, no es considerada delito en la República Argentina, esto es: no existe un tipo penal que sancione esta conducta, no obstante hemos advertido hasta el cansancio, desde la academia y desde estas páginas, sobre este tipo de maniobras, que ahora alcanzan las esferas del poder político, pero que se aplican a muchos ciudadanos de a pie. Quizás ahora alguien escuche… Quizás.

En consecuencia, si bien la clonación de imagen y voz propiamente dicha no ha sido tipificada como delito, la maniobra puede considerarse punible si el contenido es utilizado como vehículo para la comisión de otro delito, como, por ejemplo, el de fraude electoral, que persigue manipular los resultados de una elección de manera ilegal y compromete la transparencia y la legitimidad del proceso electoral.

Desde el punto de vista civil, el derecho personalísimo a la imagen y a la voz se encuentra amparado por el artículo 31 de la ley 11.723, que establece: “El retrato fotográfico de una persona no puede ser puesto en el comercio sin el consentimiento expreso de la persona misma…”, y por el artículo 53 del Código Civil y Comercial de la Nación, cuando refiere: “Para captar o reproducir la imagen o la voz de una persona, de cualquier modo que se haga, es necesario su consentimiento…”.

Dicho en criollo y como principio general: nadie puede utilizar ni reproducir la imagen o la voz de otra persona sin su consentimiento expreso; caso contrario, deberá responder por los daños y perjuicios causados.

Esta responsabilidad recae sobre el autor del contenido falso (el editor del video), sobre quien lo subió a redes sociales, sobre quien lo tuiteó (porque un tuit es considerado una manifestación de la persona y/o una declaración o expresión de una idea o exteriorización de voluntad) y sobre quien lo retuiteó, ya que un retuit puede considerarse la confirmación de una de voluntad ajena, a través de un medio inequívoco.

El hecho de que la opinión, el rumor o la desinformación se manifiesten en una plataforma digital no lo libera de sus consecuencias legales y de su encuadre en un hecho ilícito en los términos de la ley civil, que genera la obligación de reparar el daño causado derivado de la desinformación, por aplicación de la obligación general de “no dañar a otro” (alterum non laedere).

Lo sucedido en estas elecciones locales muestra que se requiere un adecuado marco de educación y concientización a nivel familiar e institucional, y nos convoca a reflexionar, nuevamente, sobre la necesidad de contar con una adecuada legislación en materia de inteligencia artificial, que prevenga y sanciones este tipo de conductas, que pueden afectar nada más y nada menos que al sistema democrático y a la expresión del libre voto popular.

Abogado y consultor en derecho digital, privacidad y datos personales; director del programa de Derecho al Olvido y Cleaning Digital de la UBA; profesor de la Facultad de Derecho de la UBA y la Universidad Austral

Por Fernando Tomeo

---

Conforme a

Tipo de trabajo:

opinión