1
La Justicia ordenó al Enacom el bloqueo de un sitio web que usa Inteligencia Artificial para crear imágenes íntimas falsas
Lo dispuso una jueza de Paso de los Libres a partir de la denuncia del padre de una adolescente de quien difundieron una foto manipulada digitalmente para que apareciera desnuda
4 minutos de lectura'
LA NACION
Una jueza de Corrientes ordenó al Ente Nacional de Comunicaciones (Enacom) el inmediato bloqueo en la Argentina de un sitio web que, a través de modelos avanzados de inteligencia artificial (IA) permite generar imágenes íntimas manipuladas. Ese programa le permitió a personas aún no identificadas crear contenido falso colocando los rostros de chicas jóvenes reales en cuerpos ajenos en poses sexuales, o, incluso, eliminarles digitalmente las ropas para simular que estaban desnudas.
La titular del Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres, Marta Rut Legarreta, intervino tras la denuncia del padre de una de las damnificadas, que aportó el nombre del programa usado para generar imágenes de desnudez falsas con rostros reales sin consentimiento.
La Dirección de Ceremonial, Prensa y Relaciones Institucionales del Poder Judicial de Corrientes informó que “la medida cautelar de protección se dictó en el marco de una causa por vulneración de derechos de adolescentes” y que regirá “hasta tanto se acredite el cese del riesgo de daño, priorizando el interés superior de las adolescentes afectadas”.
La jueza Legarreta emitió la resolución “tras tomarse conocimiento del uso de esta herramienta tecnológica y su difusión a través de WhatsApp”, y advirtió que “el daño concreto se produjo por el funcionamiento de esta aplicación, que permite crear y compartir contenido sexual simulado sin verificar edad ni consentimiento”.
El Poder Judicial correntino precisó que la magistrada “basó su decisión en los riesgos concretos que representa el entorno digital cuando no existen filtros preventivos, especialmente para niñas y adolescentes, advirtiendo que “el entorno digital no garantiza barreras efectivas de edad ni consentimiento, lo que expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica”.
La magistrada fundó su decisión en “tratados internacionales y leyes nacionales de protección a la niñez y prevención de violencia de género, entre ellas la ‘Ley Olimpia’ (N°27.736), que reconoce la violencia digital como una modalidad de agresión hacia las mujeres". Y ordenó “la intervención del Enacom, solicitando el bloqueo inmediato del acceso desde Argentina al sitio web de la aplicación y a sus servidores DNS” y la “notificación a la Unidad Fiscal Especializada en Ciberdelincuencia (Ufeci) para que colabore en las investigaciones e impulse medidas que permitan identificar a los responsables”.
Según se informó, “la causa se inició a partir de la denuncia de un progenitor, quien aportó el nombre de la aplicación utilizada para manipular imágenes de adolescentes, generando contenido sexual falso sin consentimiento”. Se trata de una “herramienta digital que, según el informe del Área de Seguridad Informática del Poder Judicial, emplea modelos avanzados de inteligencia artificial para eliminar digitalmente ropa en fotografías y simular imágenes íntimas”.
El contenido habría sido difundido por WhatsApp y el juzgado destacó que el daño concreto se produjo por el uso de esta aplicación que permite crear imágenes falsas sin control ni verificación, vulnerando la privacidad, dignidad e identidad de las víctimas".
El informe técnico elaborado por el Área de Seguridad Informática de la Dirección de Informática del Poder Judicial de Corrientes, a cargo del licenciado José Nicolás Bruzzo, describió en detalle el funcionamiento de la aplicación.
Se indicó que utiliza modelos avanzados de inteligencia artificial, como redes generativas antagónicas (GANs) y modelos de difusión, para simular la eliminación digital de ropa en fotografías reales, generando imágenes manipuladas que violan la privacidad y dignidad de las personas. También se advirtió que el sitio carece de controles de edad, almacenamiento seguro y transparencia sobre sus desarrolladores, lo que agrava los riesgos de abuso, acoso y difusión no consentida de contenido íntimo.
LA NACION
Más leídas de Seguridad
