5 minutos de lectura'
¿Qué pasó? A pesar de que en enero la red social X dijo haber mejorado las medidas de seguridad de Grok, su herramienta de inteligencia artificial, para que los usuarios no puedan crear desnudos a partir de fotos reales de mujeres y niños, las imágenes se siguen multiplicando y difundiendo en esa red.
¿Por qué sigue ocurriendo? La empresa, que pertenece a Elon Musk, dijo que tomó medidas “para impedir la creación de imágenes de personas reales con ropa reveladora, como bikinis” y limitó la función de editar ciertas imágenes a usuarios pagos con el argumento de que son identificables.
Sin embargo, esas medidas son eludidas por los usuarios, quienes piden modificar la foto de una mujer o una niña con prompts o instrucciones que logran engañar a Grok.
Entre las herramientas de IA, ¿solo Grok lo permite? Todo lo contrario. Varias herramientas de IA permiten crear deepfakes porno, como les llaman a estas imágenes o videos falsos que se constituyen como un tipo de violencia sexual digital.
La advertencia de los especialistas. Varios expertos señalaron que lo que permite Grok y otras aplicaciones de IA es una forma de humillar, acosar y violentar a las personas.
Lo expuso la psicóloga Candela Yachte, fundadora de Bellamente, una organización que estudia el impacto de la IA en la salud mental de los jóvenes; referentes de Faro Digital, una ONG que promueve la educación digital; e influencers como Agus Cabaleiro, conocida en redes como Online Mami.
¿Quiénes son las principales víctimas? Mujeres, adolescentes y niños. De 20.000 imágenes generadas por Grok en enero pasado, más de la mitad representan a personas con poca ropa, de las cuales un 81% eran mujeres y un 2% parecían menores de edad, según un análisis de ese recorte realizado por la ONG europea AI Forensics.
En un estudio global de Unicef, 1,2 millones de niños y niñas en el mundo son víctimas de deepfakes: 1 de cada 25 menores de 11 países han sido afectados por este tipo de creación de imágenes.
¿Hay redes de trata y pedofilia involucradas? Según informes de organizaciones internacionales como la Alianza Global We Protect, que reúne a gobiernos, empresas y ONG, los deepfakes son el anabólico que aumentó de forma exponencial la oferta de material en las redes de pedofilia en los últimos años.
Por ejemplo, de acuerdo con la Internet Watch Foundation, organización que lucha contra la explotación sexual digital contra niños, niñas y adolescentes, entre 2020 y 2022, la generación por IA de este tipo de imágenes había crecido un 360 %.
El impacto sobre las víctimas. “Lo que pasa en el mundo virtual puede tener graves consecuencias en la realidad, más aún en los niños, niñas y adolescentes”, dice a LA NACION Paula Wachter, directora de Red por la Infancia y especialista internacional en violencia contra la infancia. Explica que la viralización o publicación de su imagen sexualizada “puede generar una crisis de angustia que se puede traducir en autolesiones e intentos de suicidio”.
¿En la Argentina es delito? Si bien la ley 27.736, conocida como Ley Olimpia, reconoce a cualquier tipo de violencia contra las mujeres en entornos digitales como una forma de violencia de género, el uso de inteligencia artificial para falsificar imágenes o videos pornográficos no está específicamente penalizado, según expuso una investigación de LA NACION.
¿Dónde se puede hacer la denuncia? Cada imagen que circula sin consentimiento en la web debe ser denunciada e investigada, según el fiscal Tomás Vaccarezza, a cargo de la Fiscalía porteña N°17 Especializada en Delitos Informáticos.
La víctima puede denunciar en la fiscalía más cercana, se especialice o no en cibercrimen.
En cualquiera de los casos, es importante acercar la evidencia digital, no borrarla o manipularla.
¿Cómo prevenir que un adolescente sea víctima? Wachter cree que no hay que invisibilizar la responsabilidad de las empresas, que deberían cumplir ciertos criterios de seguridad, ni de los Estados, que deberían regularlas.
Sin embargo, hace hincapié en que se debe abordar el corazón del problema: “Hay que hablar de cómo educar a los chicos en la convivencia híbrida, tanto en el mundo real como en el digital, e incorporar esa conversación a las familias y a las escuelas”.
