Informe de la ONU insta a reforzar las medidas para detectar "deepfakes" impulsados por la IA

Por Olivia Le Poidevin

GINEBRA, 11 jul (Reuters) - Las empresas deben usar herramientas avanzadas para detectar y erradicar la desinformación y los contenidos falsificados para ayudar a contrarrestar los crecientes riesgos de interferencia electoral y fraude financiero, instó la Unión Internacional de Telecomunicaciones de Naciones Unidas en un informe el viernes.

Los "deepfakes" -como imágenes y videos generados por inteligencia artificial (IA)- y el audio que suplanta de forma convincente a personas reales, plantean riesgos crecientes, afirma la UIT en el informe publicado en su "Cumbre de la IA por el bien" en Ginebra.

La UIT pidió normas sólidas para combatir los contenidos multimedia manipulados y recomendó que los distribuidores de contenidos, como las plataformas de redes sociales, utilicen herramientas de verificación digital para autenticar imágenes y videos antes de compartirlos.

"La confianza en las redes sociales ha disminuido de forma considerable, porque la gente no sabe qué es verdad y qué es falso", señaló Bilel Jamoussi, jefe del Departamento de Comisiones de Estudio de la Oficina de Normalización de la UIT.

Combatir los deepfakes es uno de los principales retos debido a la capacidad de la IA Generativa para fabricar contenidos multimedia realistas.

Leonard Rosenthol, de Adobe, empresa líder en software de edición digital que se ocupa de los deepfakes desde 2019, subrayó la importancia de establecer la procedencia de los contenidos digitales para ayudar a los usuarios a evaluar su fiabilidad.

"Necesitamos que más lugares donde los usuarios consumen su contenido muestren esta información (...) Cuando te desplazas por tus contenidos quieres saber si puedes confiar en esta imagen, este video...", dijo Rosenthol.

La UIT está elaborando normas para poner marcas de agua a los videos -que constituyen el 80% del tráfico de Internet- con el fin de incorporar datos de procedencia como la identidad del creador y marcas de tiempo. (Editado en español por Carlos Serrano)

Confianza. Rafael Grossi y su candidatura a la ONU: “En 2026 vamos a jugar dos mundiales, y yo creo que vamos a ganar los dos”

Candidato a la ONU. La Cancillería crea una unidad especial para conseguir apoyos para Rafael Grossi

"Arriesga su vida". Los elogios al candidato argentino para la ONU que le dedica la revista The New Yorker en un extenso artículo