EE.UU. promulgó una ley en defensa de las víctimas de deepfakes y videos generados con IA
La iniciativa exigirá a las plataformas eliminar el contenido dentro de las 48 horas luego de su notificación
6 minutos de lectura'
Mantenerse a la par de la inteligencia artificial (IA) y poner límites a sus riesgos se presenta como uno de los desafíos más complejos de nuestros tiempos. La creciente viralización de deepfakes y videos falsos sin consentimiento expone con crudeza el impacto que esta tecnología puede tener sobre la sociedad si no se toman medidas urgentes.
El escándalo por el video falso de Mauricio Macri que anunciaba la renuncia de Silvia Lospennato a su candidatura, en el marco de las elecciones legislativas en la Ciudad de Buenos Aires (CABA), es solo un ejemplo de ello.
A nivel mundial, el panorama también es alarmante: desde celebridades hasta niños y adolescentes, cada vez es más fácil ser víctima. Cualquier usuario puede hacer uso de nuestra imagen con fines perjudiciales.
En este escenario, el presidente de Estados Unidos, Donald Trump, firmó este lunes la Take It Down Act, que busca proteger a las víctimas de la “explotación digital”, según informó la Casa Blanca en su sitio oficial.
La ley -aprobada por ambas cámaras del Congreso casi por unanimidad- prohíbe la publicación de imágenes íntimas, explícitas y no consensuadas en línea, sin importar si se trata de una fotografía real o generada con IA. A su vez, exigirá a las plataformas eliminar tal contenido dentro de las 48 horas luego de su notificación.
Para la senadora Amy Klobuchar, quien presentó el proyecto junto al senador Ted Cruz, en junio de 2024, se trata de un “paso histórico”. “Estas imágenes pueden arruinar vidas y reputaciones, pero ahora que nuestra legislación bipartidista se está convirtiendo en ley, las víctimas podrán exigir que se elimine este material de las redes sociales y las fuerzas del orden podrán exigir responsabilidades a los perpetradores”, señaló.
Si bien ya son varios los estados que en los últimos años han impulsado medidas contra los deepfakes, el alcance de la Take It Down Act promete marcar precedente en este tipo de delitos, de acuerdo a Asocciated Press.
“A través de la Ley Take It Down, afirmamos que el bienestar de nuestros niños es fundamental para el futuro de nuestras familias en Estados Unidos”, dijo la primera dama de EE.UU., Melania Trump, tras la promulgación del proyecto este lunes. Alrededor de 100 organizaciones con y sin fines de lucro, como Meta, TikTok y Google, también se mostraron a favor.
“Compartir una imagen íntima (real o generada por IA) sin consentimiento puede ser devastador y Meta desarrolló y respalda muchas iniciativas para ayudar a prevenirlo”, declaró el vocero de Meta, Andy Stone, en marzo. En este sentido, Google, Meta y Snapchat ya cuentan con formularios y espacios para que los usuarios soliciten la eliminación de imágenes explícitas.
¿Qué dicen los expertos?
Para Juan G. Corvalán, doctor en Ciencias Jurídicas, máster en IA y co-creador de Prometea, un sistema de IA predictivo en aplicación en la Justicia de Hispanoamérica, la Take It Down Act es una “reacción inevitable” frente a un fenómeno que desbordó los marcos jurídicos y éticos tradicionales. “Ahora ya no hablamos solo de ‘difusión de imágenes íntimas sin consentimiento’: la norma tipifica como delito la réplica sintética de voz, rostro y cuerpo cuando no hay un ‘sí’ inequívoco de la persona clonada. Y le pone plazo a las plataformas: 48 horas para bajar el contenido o se exponen a sanciones”, analizó para LA NACION.
En este sentido, se detuvo en un problema central del universo de las plataformas: “El consentimiento se volvió un clic ansioso sobre ‘Acepto‘. Esa fragilidad ya no vale; la ley pone la vara alta”.
Así, ante la posibilidad de crear clones ultrarrealistas, el especialista sintetizó el panorama digital en tres puntos clave: prohibición para todo material íntimo sin permiso, excepción solo con consentimiento expreso y verificable y libertad de expresión fuera de la ecuación cuando se usurpa la identidad ajena.
Lucas Barreiro, abogado especializado en derechos digitales y privacidad de datos, opinó que, si bien se trata de un proyecto “loable”, presenta ciertas ambigüedades: “Me preocupa que no estén específicamente excluidos de los sujetos obligados los servicios de mensajería instantánea, porque pienso en cómo se daría la implementación de un modelo de notificación y remoción (notice and takedown) sin romper el cifrado de extremo a extremo”.
Por este motivo, Barreiro indicó que hay un retroceso en la privacidad de los usuarios, así como también se introduce el riesgo de function creep (cuando una tecnología es utilizada con propósitos que exceden los originales).
¿Ataque a la libertad de expresión?
Si bien la ley representa un avance en materia regulatoria, también fue cuestionada por defensores de la libertad de expresión. Desde la Electronic Frontier Foundation, una organización sin fines de lucro que protege los derechos digitales, se refirieron a a la medida como “demasiado amplia”, y que podría conducir a la censura de imágenes “legítimas”, como críticas al gobierno o contenido de la comunidad LGBTQ.
“Si bien el proyecto de ley pretende abordar un problema grave, las buenas intenciones por sí solas no bastan para crear buenas políticas. Los legisladores deberían fortalecer y hacer cumplir las protecciones legales existentes para las víctimas, en lugar de inventar nuevos sistemas de eliminación de contenido que propician el abuso”, dijeron.
La Iniciativa de Derechos Civiles Cibernéticos, una organización sin fines de lucro que ayuda a las víctimas de delitos y abusos en internet, también se mostró en contra de la ley y calificó la propuesta como “vaga, inconstitucionalmente excesiva y carente de garantías adecuadas contra el uso indebido”.
Para Corvalán, no se trata de censura ni un ataque a la libertad de expresión, sino una línea roja que define la convivencia en el espacio digital. “Si los sistemas generativos también moderan, filtran y recomiendan sin intervención humana, la regulación tiene que ser, antes que nada, un compromiso democrático”, detalló.
Bajo la misma filosofía, Barreiro agregó que hay que procurar que no se convierta en una “herramienta de abuso”. “El avance de la IA es un tsunami que se manifiesta crudamente cuando hablamos de clonación digital de humanos. La identidad y autonomía es lo que está en juego”, concluyó Corvalán.
Más leídas
1Del sueño europeo a la incertidumbre: la familia argentina que quedó atrapada por un cambio de las leyes migratorias
2Con el aguinaldo: qué día cobro mi jubilación en diciembre
3Los votos opositores que le allanaron el camino a Axel Kicillof para lograr el endeudamiento
4Eben Etzebeth, estrella de la selección de rugby de Sudáfrica, fue suspendido por la World Rugby
