Facebook pide fotos de desnudos para combatir los casos de pornovenganza con inteligencia artificial

A diferencia de los casos de detección y bloqueos de contenidos reportados, la red social busca anticiparse a la difusión de contenido íntimo al registrar una huella digital de una foto de desnudo enviado por los usuarios
24 de mayo de 2018  • 10:39

Los crecientes casos de difusión sin consentimiento en Internet de imágenes, videos y audios de contenido sexual generadas por los usuarios representan todo un desafío técnico para plataformas como Facebook, que cuentan con más de 2000 millones de usuarios en todo el mundo. Para combatir la "porno venganza", una actividad reciente que surgió de la mano con los avances tecnológicos y que en la Argentina se busca tipificar como delito, la red social liderada por Mark Zuckerberg comenzó a utilizar sistemas de aprendizaje automático para identificar y bloquear la difusión no autorizada de estos contenidos.

A su vez, este tipo de contenidos deben diferenciar el contenido adulto de las producciones no autorizadas y para eso Facebook puso a prueba en Australia un sistema basado en la identificación de la imagen para crear una huella digital, un patrón matemático conocido en la jerga como hash que permite establecer un patrón para detectar la difusión de imágenes íntimas en la red social. Sin embargo, esta modalidad requiere que la persona envíe de forma previa una imagen de desnudo para anticiparse a los casos de porno venganza .

La compañía asegura que estos contenidos no almacenará la imagen, y sólo necesita esta huella digital para prevenir cualquier intento de difusión de contenido íntimo. Facebook ya realizó una prueba piloto con la Agencia de Seguridad Electrónica de Australia y ahora planea extender el testeo de este particular sistema a Estados Unidos, Reino Unido y Canadá, según un reporte de The Times de Londres.

Esta modalidad se asemeja al sistema utilizado por la red social para identificar y remover imágenes que han sido reportadas por la comunidad de usuarios y validadas por los administradores de la plataforma. Sin embargo, para estas pruebas Facebook requiere que forma preventiva los usuarios envíos fotos suyas para anticiparse a cualquier caso de difusión de contenido íntimo no consentido.

"Sería como enviar tu imagen por correo electrónico, pero obviamente esta es una manera mucho más segura. No están almacenando la imagen, están almacenando el enlace y usando inteligencia artificial y otras tecnologías de detección de imagen", explicó la comisionada de ciberseguridad australiana Julie Inman Grant, que trabajó junto a Facebook en esta iniciativa.

Por su parte, especialistas en seguridad informática ponen en duda este sistema al no estar exento de riesgos y por cuestiones de privacidad . "Facebook sabe que habrá mucha gente preocupada por cómo maneja un contenido tan sensible, y me imagino que han pensado mucho en minimizar las posibilidades de que algo salga mal", dijo el consultor en seguridad Graham Cluley.