1
Sintética desnudez
La posibilidad de clonación, generación, adulteración y manipulación de nuestra voz, imagen y acciones con fines económicos o por pura malicia es concreta, y los menores de edad están más expuestos que nunca
4 minutos de lectura'
PARA LA NACIONGabriel Zurdo
Las problemáticas relativas a imágenes de desnudez se vincularon inicialmente a la moda del “sexting”, especialmente entre adolescentes y jóvenes, producción luego capitalizada por agresores y despechados ejecutores de “pornovenganza” y “sextorsión”. Recurrentemente nos topamos con engaños que argumentan encontrarnos en videos de alto contenido erótico, o mails que informan sobre un malware que ha tomado el control de nuestro dispositivo y “grabó situaciones íntimas”; de las que solo se puede zafar haciendo un pago cripto.
Con capacidad para lacerar reputación, erosionar la imagen y facilitar estafas financieras, las deepfakes de audio, por ejemplo, son voces sintéticas capaces de imitar a individuos reales, pronunciando cualquier palabra, frases o instrucciones con asentó y tono específicos. Las estafas de audio, aparecieron como una de las aplicaciones más sorprendentes de esta tecnología; el proceso detrás de la construcción de deepfakes de audio es increíblemente simple. Los delincuentes adaptaron la tecnología de “Machine Learning” para clonar la voz, generalmente utilizando software espía y dispositivos que permiten recopilar varias horas de grabaciones de la víctima hablando.
Allá por 2021, Faceapp fue utilizada por 150 millones de usuarios entregando datos personales entusiasmados con jugar a ver cómo serían de viejitos o si fueren del sexo opuesto, luego, Deep Nostalgia convertía en vídeo fotografías del pasado mediante el uso de inteligencia artificial. Deep Nostalgia ganó popularidad por la carga emocional que generó: famosos e influencers publicaron sus posteos dando vida a seres queridos fallecidos.
A esta altura los generadores de desnudos de IA ya se cuentan por decenas. Es posible producir desnudez partiendo de fotos reales, pasando por imágenes sintéticas y Animé o Arte 3D, hasta generadores de “porno”. Lo cierto es que, por el momento, su tiempo promedio de espera es de entre 2 y 5 minutos en conseguir un resultado, aparentemente real. En algunos casos el limitante para procesar y desnudar la foto es que la imagen lleve ropa de abrigo. Algunas Apps no son tan precisas al momento de desnudar, dependiendo de la pose o del tipo de vestimenta. Nudifi, antes DeepNude, fue una de las primeras, respaldada por una agresiva campaña de difusión en Tik Tok, Undress app, es otra de las predilectas por los usuarios, que utiliza Telegram como canal de soporte. ClothOff, ha sido utilizada para desnudar a menores de edad, por compañeros de escuela en varias ciudades de todo el planeta, imágenes que posteriormente se expusieron por Whtasapp entre los estudiantes. Sí, este formato está al alcance de todos y es gratis.
La IA está disponible para ser aplicada con fines loables como la salud, para generar textos, realizar recomendaciones personalizadas, hacer la tarea de los estudiantes, editar fotografías, crear imágenes o escribir un guion para una producción en Hollywood, entre numerosas opciones. Generalmente, la postura es positiva; pero lamentablemente todo depende del uso que se le quiera dar. Existen también servicios “premium” que por un par de dólares ofrecen mejora calidad y creatividad agregada. Pero eso no es todo, los generadores de pornografía permiten crear imágenes protagonizadas por humanoides sumamente realistas y bellas de mujeres teniendo sexo utilizando bases de datos con registros de millones de fotos.
¿Cómo limitar la divulgación de una producción de sexo explícito, que utiliza como base fotos extraídas de redes sociales de personas reales?, ¿cómo proteger los derechos de los usuarios que podrían ser víctimas de esta innovadora tecnología?
La utilización de herramientas de IA para manipular imágenes y afectar su buen nombre y honor parecen estar en un limbo legal, o, mejor dicho, en un vacío. Lo mismo ocurre con los derechos de propiedad intelectual, pero el impacto del mal uso de esta tecnología es devastador cuando se trata de los menores. La discusión se empantana en una incontrastable discusión filosófica: ¿la tecnología tiene ética?
Lo que no está en discusión es la altísima dependencia a este potente estilo de vida en formato digital y la cultura de la exposición que combustiona en nuestros dispositivos móviles. La IA es una superinteligencia y será capaz de programarse a sí misma, y este es el cambio de paradigma, que dispara todas las variables de riesgo, sobre las cuales no tenemos experiencia previa.
La Inteligencia Artificial nos sorprende diariamente, pero a medida que nos acerquemos a ella, mayor necesidad tendremos de normas de ética, pautas de seguridad y de regulaciones.
Especialista en riesgo tecnológico y negocios
