1
El derecho y la irrupción de los deepfakes
El avance tecnológico ha traído consigo incontables soluciones que han transformado la vida cotidiana, pero también ha generado nuevos problemas que desafían al mundo del derecho, poniendo a prueba las legislaciones actuales. La irrupción de la inteligencia artificial (IA) es uno de los aspectos más novedosos que, a pesar de sus potenciales beneficios, ha propiciado el surgimiento de amenazas inéditas, como el acoso digital y el uso indebido de deepfakes.
Deepfake es una tecnología de IA que permite crear o modificar contenido audiovisual de manera tan realista que resulta casi imposible de distinguir de la realidad. A través de esto, se pueden intercambiar rostros, modificar voces e incluso generar situaciones que nunca ocurrieron, facilitando fraudes, abusos y vulneración de derechos. Este poder de manipulación de la realidad se extiende también al ámbito del bullying digital, ampliando su impacto debido a la rápida y masiva difusión de contenidos en plataformas como X o Telegram. Un ejemplo claro de esto es el caso de la cantante estadounidense Taylor Swift, quien se vio involucrada en un escándalo cuando imágenes pornográficas deepfakes de ella fueron distribuidas masivamente en dichas plataformas, afectando su imagen y generando un debate sobre la protección de la privacidad en el entorno digital.
El uso de deepfakes ha generado preocupación en términos de violencia de género, ya que los agresores recurren a la IA para crear contenido sexualizado de mujeres, en los que se alteran imágenes o videos en los cuales se simulan escenas íntimas. Esta práctica puede ir acompañada de extorsión o amenazas para difundir dichos contenidos. Este tipo de violencia digital vulnera la privacidad de las víctimas, contribuyendo a la reproducción de estereotipos machistas y la perpetuación de la desigualdad de género.
En respuesta a la creciente preocupación sobre este tema, la Argentina promulgó la ley 27.736, conocida como “ley Olimpia”, que amplía el concepto de violencia de género a los entornos digitales, incorporando la difusión no consensuada de imágenes íntimas. Sin embargo, esta ley no aborda específicamente el uso de la IA, lo que genera un vacío legal sobre cómo abordar los deepfakes. De todas maneras, en algunos casos, cuando las víctimas son menores de edad, se sanciona bajo el artículo 128 del Código Penal, que penaliza la tenencia, distribución y comercialización de material sexual infantil.
A pesar de los esfuerzos por abordar esta problemática, a nivel nacional aún no existe una legislación específica que sancione la creación de imágenes generadas por IA. No obstante, se están impulsando proyectos de ley que buscan modificar el Código Penal y crear un régimen jurídico aplicable para regular el uso responsable de la IA, con especial atención a los deepfakes.
A nivel regional, la ley Olimpia, de México, ha sido un referente. Esta ley surgió como respuesta a la activista Olimpia Coral Melo, quien fue víctima de la difusión de un video íntimo sin su consentimiento. Esta ley ha servido como modelo para otras legislaciones en América Latina, reflejando la creciente preocupación por este fenómeno.
A nivel global, varios países también han comenzado a legislar sobre los deepfakes. En el Reino Unido, la Online Safety Act 2023 establece como delito la difusión de imágenes manipuladas por la IA sin consentimiento. En Francia, el Código Penal contempla sanciones o multas para quienes difundan contenido sexual generado artificialmente. Por su parte, en Estados Unidos, varios estados han legislado sobre el tema. En California, se establece como delito la creación y distribución de imágenes fotorrealistas de partes íntimas de una persona o de personas participando en actos sexuales, generadas por computadora.
En este contexto, el derecho debe evolucionar para adaptarse a las nuevas realidades impuestas por la tecnología, ya que sus avances no deben ser una excusa para la vulneración de derechos fundamentales. La legislación debe ser lo suficientemente robusta como para abordar los riesgos asociados con los deepfakes y proteger la integridad, la privacidad y los derechos de las personas en el entorno digital.ß
Experto en tecnología e inteligencia artificial
Por Pablo Palazzi
