Violencia de género
Entrá a la guía de servicio y encontrá los tips de los expertos sobre cómo prevenir, actuar y encontrar ayuda frente a este problema.
IR A LA GUÍA
“Una carrera permanente”: los desafíos de combatir los deepfakes generados con IA
Expertos señalan los mecanismos de seguridad y los modelos de código abierto como el principal problema; qué normativas existen a nivel mundial y local y cuáles son sus límites
7 minutos de lectura'
La irrupción de la inteligencia artificial (IA) supone avances, pero también desafíos. En ese sentido, la proliferación de deepfakes emerge como una de las principales problemáticas de esta nueva era tecnológica: el 98% de los videos deepfake en internet son de carácter pornográfico y el 99% de las víctimas son mujeres, según una investigación de la Universidad de Zúrich.
La Argentina no es ajena a esta problemática, en especial entre adolescentes. Un reciente informe de la Defensoría del Pueblo de la Ciudad revela que, si bien solo el 1% de la muestra (912 estudiantes de 12 a 19 años) reporta haber sido víctima directa, un 13% señala conocer casos en su entorno escolar. Además, el 43% afirma haber recibido imágenes o videos editados con IA.
El caso de la Escuela Superior de Comercio Carlos Pellegrini y el Colegio Nacional de Buenos Aires, que involucra la creación, venta y difusión de imágenes íntimas generadas con IA sin consentimiento, es un reflejo de tales cifras.
Ahora bien, sistemas populares de IA, como ChatGPT, Gemini o Claude, cuentan con restricciones que prohíben la generación de desnudos falsos. Entonces, ¿cómo es posible que usuarios aún logren crear este tipo de contenidos? Y más importante: ¿hasta qué punto se puede luchar contra ello?
Según expertos consultados por LA NACION, el principal problema radica en los los mecanismos de seguridad que varían entre las distintas herramientas de IA disponibles. “Lo primero que hay que entender es que no existe una única IA. ChatGPT es solo una de las muchas aplicaciones que utilizan modelos generativos”, explica a LA NACION Sergio Sirotinsky, profesor de IA de la Universidad del Cema.
El especialista señala que, si bien en las plataformas comerciales suele haber una capa adicional de seguridad o moderación que bloquea la creación de imágenes íntimas sin consentimiento, estas reglas no son universales. “Cada aplicación define sus propios mecanismos de control y existen otras que incorporan filtros mucho más débiles o, directamente, no los tienen”, precisa. En consecuencia, hoy generar un deepfake “es mucho más sencillo que hace algunos años”.
“La democratización de la tecnología tiene enormes beneficios para la creatividad, la educación y la innovación, pero también implica que su uso irresponsable puede extenderse con mucha mayor facilidad", reflexiona.
Alan Daitch, experto en tecnología, añade que muchos modelos son de “código abierto”, es decir, su estructura puede ser modificada o reentrenada.
Por su parte, Fredi Vivas, CEO de RockingData, profesor e ingeniero especializado en IA, advierte sobre la existencia de sitios específicos para crear tales contenidos: “Tienen millones de visitas y modelos de monetización. Es un mercado que existe de esto”.
Respecto a si es posible frenar estos mecanismos alternativos, los especialistas indican que no es una tarea sencilla. “Es como la piratería. Se puede dificultar en acceso, pero en el fondo no hay manera técnica de detenerla”, desliza Daitch.
Para Sirotinsky, la dinámica es similar a la que se da entre quienes desarrollan virus informáticos y las empresas de antivirus: “Cuando se crea una nueva defensa, aparecen nuevos atacantes. Es una carrera permanente”.
Por este motivo, una estrategia que combine nuevas leyes y regulaciones, pero también educación digital, resulta crucial. “Lo más importante es la educación. La IA en sí mismo no es mala. Hay que explicar y fomentar la educación tecnológica con una mirada crítica”, apunta Vivas.
Iniciativas a nivel global
Frente al crecimiento de casos, distintos países comenzaron a adaptar sus marcos legales para contemplar los daños derivados de estos delitos. Uno de ellos es Estados Unidos, que en mayo de 2025 promulgó la Take It Down Act, una ley que prohíbe la publicación de imágenes íntimas, explícitas y no consensuadas en línea, sin importar si se trata de una fotografía real o generada con IA. Además, exige a las plataformas eliminar el contenido dentro de las 48 horas luego de su notificación.
Por su parte, Corea del Sur cuenta con una ley que penaliza la posesión o visualización de imágenes y videos deepfakes sexualmente explícitos, con penas que incluyen condenas de prisión y multas, informó Reuters. En detalle, aquellas personas que compren, guarden o vean dicho material pueden enfrentarse a hasta tres años de cárcel o a una multa de hasta 30 millones de wones (US$22.600 dólares). La normativa también establece condenas de hasta siete años de cárcel para los creadores de este tipo de contenidos.
En tanto, la Unión Europea (UE) aprobó recientemente cambios en determinadas normas de su Ley de Inteligencia Artificial. Uno de los puntos principales es la prohibición de aplicaciones para generar de desnudos falsos: “Los proveedores no podrán comercializar estos sistemas en el mercado de la UE, a menos que cuenten con las garantías técnicas adecuadas para impedir la creación de dicho material. La prohibición también se aplicará a cualquier entidad responsable de su despliegue y que los utilice con este fin”, comunicaron.
A su vez, España aborda esta problemática dentro de su Ley Orgánica para el Buen Uso y Gobernanza de la IA, que fue aprobada por el Consejo de Ministros en mayo, de acuerdo a un artículo de El País.
La Argentina: protección “fragmentada”
A nivel local, especialistas apuntan que la protección aún es “fragmentada”. “Falta una figura específica que contemple los desnudos falsos creados mediante IA. Cuando tenés nuevos fenómenos que lógicamente la ley aún no abarca, aplicás institutos análogos, es decir, aquellas figuras legales ‘más parecidas’”, detalla Cecilia Danesi, codirectora del Máster en Gobernanza ética de la IA de la Universidad Pontificia de Salamanca.
Para Danesi, es clave tener en cuenta la “violencia digital”, concepto que aborda la Ley Olimpia. Si bien la normativa reconoce a cualquier tipo de violencia contra las mujeres en entornos digitales e incorpora mecanismos para su prevención y penalización, el uso de IA para falsificar imágenes o videos pornográficos no está específicamente penalizado.
Por otro lado, el Código Civil y Comercial protege derechos como la dignidad, la intimidad, la imagen y la identidad, lo que permite reclamar el cese de la conducta y la reparación de los daños.
“Cuando las víctimas son menores, además, pueden resultar aplicables las disposiciones del Código Penal relativas al material de abuso sexual infantil, así como otras figuras penales dependiendo del caso concreto, como amenazas, extorsión u hostigamiento”, suma Danesi.
Sin embargo, la experta remarca la necesidad de una regulación más específica: “El quid de la cuestión está en que la imagen no es real, entonces alegan o que no hay daño o que la conducta no es punible”.
Lucas Barreiro, abogado especializado en derechos digitales y privacidad de datos, destaca otro problema: “Cuando se trata de menores, hay una tendencia por parte de algunas fiscalías a hacer malabares para encuadrar la conducta dentro de los supuestos del artículo 128 del Código Penal. Ahí hay un tema con la reserva que Argentina hizo en algunos artículos del Convenio de Budapest —un tratado internacional para combatir el ciberdelito—,pues dijo en su momento que no penalizaría las imágenes realistas”.
En concreto, la Argentina dejó por fuera los artículos 9.1.d; 9.2.b; 9.2.c; y 9.1.e. “A mi criterio, lo que hay que hacer es sancionar nuevos tipos penales que no dejen lugar a dudas sobre la adecuación típica y retirar la reserva de esos artículos del Convenio de Budapest”, opina Barreiro.
Por último, Danesi considera que las leyes deberían ser “tecnológicamente neutrales”, es decir, no regular una aplicación concreta, sino el impacto que tiene el uso de esa herramienta en la sociedad. “La IA no crea el problema, pero sí puede amplificarlo, hacerlo más accesible y permitir que se reproduzca a una velocidad y escala sin precedentes”, profundiza.
En esa línea, resume que el foco debe ser no solo mejorar los sistemas tecnológicos, sino también “promover educación digital, responsabilidad individual y marcos regulatorios adecuados”.
Más leídas
1Premios Pinti: ovaciones, una crítica encendida, un emotivo homenaje y una fiesta del teatro llena de figuras
2Remate: pagaron $81 millones por el 50% de un ternero colorado Angus de la Patagonia
3Rosario Central le envió una carta documento al canciller Quirno para que se disculpe
4Premios Pinti: todos los looks de la fiesta del teatro en el Colón