Violencia de género
Entrá a la guía de servicio y encontrá los tips de los expertos sobre cómo prevenir, actuar y encontrar ayuda frente a este problema.
IR A LA GUÍA
Grok “desnudó” a mujeres y niños en la red social X: “Hay que pensar en cómo regular a las empresas tecnológicas”
La herramienta de inteligencia artificial de esa plataforma permitió generar imágenes falsas producidas a partir de fotos reales; en la Argentina, ¿se trata de un delito?; el análisis de Lucía Fainboim, especialista en ciudadanía digital
5 minutos de lectura'
LA NACIONPaula Soler
En las últimas semanas, miles de usuarios de la red social X publicaron imágenes de desnudos de mujeres, adolescentes y hasta niños generadas con inteligencia artificial.
Esas fotos fueron creadas con el chatbot Grok, la herramienta de inteligencia artificial de X. Los usuarios subían una foto real de la persona vestida y le pedían a la IA que la “desnudara”.
Algunas imágenes correspondían a personalidades famosas, pero muchas a personas desconocidas. En todos los casos se trató de publicaciones que no tenían el consentimiento de las personas vulneradas.
¿Por qué preocupa? “Lo que pasó genera consternación y nos hace sentir muy vulnerables frente a los avances de la inteligencia artificial generativa porque no hay suficientes regulaciones sobre los productos que lanzan las empresas tecnológicas”, considera Lucía Fainboim, especialista en ciudadanía digital y directora de la consultora Bienestar Digital.
“La industria tecnológica prefiere pedir perdón que pedir permiso”. Esa es la frase a la que hace alusión Fainboim para resumir lo ocurrido y agrega: “Avanza a un ritmo frenético y es por eso que al momento de diseñar sus productos no se hacen preguntas sobre si cumplirán normas éticas, morales, legales o la Convención de los Derechos de los Niños, Niñas y Adolescentes, algo que evidentemente en este caso no sucedió”.
¿Quiénes fueron violentados? Usuarios, organizaciones que defienden los derechos de mujeres y niños, y organismos internacionales como la Comisión Europea denunciaron lo ocurrido en X.
La abogada penalista española Paula Fraga fue una de las víctimas y lo expuso en la propia red social con un tuit en el que afirma: “Nos desnudan físicamente ante millones de ojos”.
A los cuestionamientos se sumaron los gobiernos de Francia, el Reino Unido, India y Malasia, que pidieron medidas correctivas contra la empresa.
¿Existe una vinculación con las redes de pedofilia? El deepfake porno, como también se conoce a este tipo de prácticas con IA, toma como víctimas sobre todo a niñas, adolescentes y mujeres y su crecimiento genera preocupación en el mundo entero.
Según informes de organizaciones internacionales como la Alianza Global We Protect, que reúne a gobiernos, empresas y ONG, es el anabólico que aumentó de forma exponencial la oferta de material en las redes de pedofilia en los últimos años. Por ejemplo, de acuerdo con la Internet Watch Foundation, organización que lucha contra la explotación sexual digital contra niños, niñas y adolescentes, entre 2020 y 2022, la generación por IA de este tipo de imágenes había crecido un 360 por ciento.
¿Qué dijo X? La empresa que pertenece a Elon Musk, no negó la existencia del contenido generado a través de Grok, afirmó en una publicación en su cuenta de Seguridad que toma medidas contra el contenido ilegal, incluido el material de abuso sexual infantil, “eliminándolo, suspendiendo permanentemente cuentas y trabajando con gobiernos locales y fuerzas del orden según sea necesario”.
Sin embargo, el propio Musk posteó en X una imagen suya en bikini generada con IA, como para desestimar la importancia de lo sucedido.
¿En la Argentina es delito? Si bien la ley 27.736, conocida como Ley Olimpia, reconoce a cualquier tipo de violencia contra las mujeres en entornos digitales como una forma de violencia de género, el uso de inteligencia artificial para falsificar imágenes o videos pornográficos no está específicamente penalizado, según expuso una investigación de LA NACION.
Fainboin explica que el marco regulatorio en cuanto a delitos digitales todavía está en construcción y que la inteligencia artificial avanza mucho más rápido que las leyes. No obstante, indica que hay algunos delitos que se pueden enmarcar en normativas existentes: “Podemos hablar de la difusión no consentida de material íntimo o de portación o distribución de material de explotación sexual infantil”.
¿Dónde se puede hacer la denuncia? La víctima puede acercarse a la fiscalía especializada en cibercrimen de su jurisdicción y hacer la denuncia. En caso de no contar con una unidad especializada, se puede denunciar en la fiscalía más cercana.
- La Unidad Fiscal Especializada en Ciberdelincuencia del Ministerio Público Fiscal de la Nación recibe denuncias al 11-5071-0040 o por mail a denunciasufeci@mpf.gov.ar.
- En la Ciudad de Buenos Aires se puede escribir por mail a denuncias@fiscalias.gov.ar y esperar a ser contactado por personal especializado. Además, se puede llamar al 0800-333-347225.
En cualquiera de los casos, es importante acercar la evidencia digital y no manipularla.
¿Cómo prevenir que un niño o adolescente sea víctima? Fainboim aconseja charlen con ellos sobre los usos de la tecnología, sin demonizarla. “Hay que generar una mirada reflexiva sobre para qué usamos estas plataformas, si nos representa, si es la manera en que queremos vincularnos con los otros, si nos da orgullo”, explica y señala que la escuela es también un lugar fundamental para generar estas charlas.
Por último, cree que lo que sucedió en Grok “es un buen llamado de atención a las familias” para recapacitar sobre la práctica de compartir en redes sociales las fotos de hijos, nietos, sobrinos. “Si bien el culpable de lo ocurrido es la plataforma y algunos usuarios, debemos saber lo que ocurre en ellas”.
Otras noticias de Abuso sexual
Más leídas de Comunidad
1En qué consiste Laburo, el proyecto de una ONG que busca dejar sin mano de obra a las redes narco
2Pablo Molero: “Al traspasar la gestión de la discapacidad a Salud, este Gobierno nos dice que su abordaje no es integral sino sanitario”
3Grok “desnudó” a mujeres y niños en la red social X: “Hay que pensar en cómo regular a las empresas tecnológicas”
4El secreto detrás de la asociación que logra que los jóvenes vuelvan a creer en sí mismos: “Pueden ser profesionales”
