1
Ponte a prueba: ¿eres capaz de detectar un rostro generado por IA?
Investigadores en Reino Unido han estado averiguando si es posible entrenar a las personas para identificar imágenes faciales generadas por un ordenador.
1 minuto de lectura'
La psicóloga Clare Sutherland sostiene dos fotografías de gran tamaño. Una muestra el rostro de un académico o académica australiana que dirige un estudio de investigación internacional; la otra es una imagen generada por inteligencia artificial, conocidas en inglés como deepfake (ultrafalso).
La inteligencia artificial ha adquirido tal destreza para crear imágenes realistas que cada vez resulta más difícil distinguir qué es real y qué no.
Pero ¿es posible entrenar a las personas para que identifiquen una imagen de un ser humano que, en realidad, ha sido creada por una máquina?
Esta es la cuestión que han estado analizando Sutherland, de la Universidad de Aberdeen, y su colega australiano.
Sin embargo, antes de revelar la respuesta, prueba a realizar este test y anota tu puntuación.
Si te resultó difícil, no estás solo.
Antes era mucho más fácil detectar las imágenes generadas por computadora —a menudo utilizadas por estafadores— porque la IA cometía errores, como añadir un dedo extra o algún otro detalle obviamente extraño.
Pero la IA aprende de sus errores.
"El entrenamiento con artefactos visuales, como buscar un sexto dedo o pendientes extraños, ha tenido un éxito limitado, en parte porque la IA se está volviendo demasiado buena y los estafadores probablemente eviten usar imágenes con errores evidentes", explica la profesora Amy Dawel.
Ella es la mujer de cabello hasta los hombros en la foto que sostiene Sutherland. La imagen del hombre es la falsa.
Dawel es directora del Laboratorio de Emociones y Rostros de la Universidad Nacional de Australia.
Ha estado liderando un equipo de investigadores en Australia, Canadá y Reino Unido para averiguar si se puede entrenar a las personas para desenmascarar a los impostores de IA.
La respuesta, al menos por ahora, es sí, pero aprender a detectar una falsificación de IA requiere un enfoque más sutil.
Aprender a detectar rostros falsos
Sutherland lidera la investigación en la Universidad de Aberdeen, Reino Unido.
Explica que habían notado que su equipo podía empezar a distinguir entre rostros reales y generados por IA con solo mirarlos.
Así que pensamos: "Sería muy interesante ver si podemos enseñar esto también a otras personas", comentó.
Para los experimentos, se creó un conjunto de miles de rostros generados por IA utilizando StyleGAN3, una herramienta de procesamiento de imágenes con IA, uno de los generadores de rostros más realistas disponibles.
Los participantes fueron evaluados antes y después del entrenamiento.
¿Qué aspectos se les enseñó a detectar?
Los investigadores capacitaron a los participantes de los estudios centrando su atención en seis cualidades perceptivas:
- Simetría: la IA a menudo no logra recrear los rasgos peculiares que nos hacen humanos, como un párpado ligeramente caído o una sonrisa asimétrica. "Si parece demasiado bueno para ser verdad, probablemente no lo sea".
- Proporcionalidad: un concepto similar. Las narices muy grandes o las orejas prominentes no son características típicas de las imágenes deepfake.
- Atractivo: "Los rostros generados por IA tienden a parecer más atractivos", explica Sutherland. "Este aspecto es más subjetivo, una cuestión de juicio estético, pero la IA a menudo crea rostros de aspecto agradable".
- Singularidad: "Podría definirse como '¿qué haría que un rostro destacara entre la multitud?'. Los rostros de IA tienden a acercarse al promedio, por lo que parecen algo más genéricos".
- Expresividad: "Los rostros de IA tienden a mostrar menos expresividad emocional", dice Sutherland. "Suelen reflejar menos emociones".
- ¿Es memorable?: "A menudo resultan menos memorables; son difíciles de recordar".
La IA también suele ser menos eficaz a la hora de recrear rostros de personas no blancas, mayores o muy jóvenes, ya que gran parte de su entrenamiento se basa en imágenes de personas blancas y jóvenes.
Algunos de estos consejos pueden parecer similares o algo vagos, pero esa es precisamente la idea.
Rara vez se encontrará una señal infalible que desenmascare una falsificación creada por la IA. Más bien, se trata de familiarizarse con sus características y desarrollar una intuición al respecto.
Los investigadores descubrieron que, al exponer a las personas a imágenes —tanto reales como generadas por IA— y revelarles cuáles eran cuáles, su capacidad para distinguirlas mejoraba considerablemente, incluso en el transcurso de cerca de una hora.
Los investigadores observaron que los participantes solían aumentar su tasa de aciertos de alrededor del 40% al 80%.
Algunas personas lograron una precisión cercana al 100%.
Irónicamente, lo que hace el cerebro humano en este caso es similar a cómo funcionan los modelos de IA generativa.
Si se les proporcionan suficientes datos para entrenarse, su precisión mejora con el tiempo, aunque no entendamos del todo cómo lo logran.
Los estudios también analizaron el grado de confianza de los participantes al identificar las imágenes generadas por IA.
Investigaciones previas habían señalado que las personas tendían a sobreestimar su capacidad para detectar rostros creados por IA, y que quienes mostraban mayor confianza eran precisamente quienes cometían más errores.
Tras el entrenamiento, se observó que los participantes habían ganado confianza a la hora de detectar los deepfakes.
"Eso es útil, ¿verdad?", comenta Sutherland. "Porque si no sabes cuándo aciertas y cuándo no, realmente no puedes hacer nada con esa información".
Muy bien, ¿estás listo para hacer otra prueba?
¿Cómo te fue? ¿Te sientes con más confianza?
Si la respuesta es no, no te castigues por ello. Tanto en el mundo humano como en el de la IA generativa, la práctica lleva a la perfección, o al menos nos acerca un poco más a ella.
Existen muchos sitios web donde puedes perfeccionar tus habilidades si así lo deseas. También puedes ofrecerte como voluntario para participar en la investigación.
¿Por qué es importante aprender a detectar falsificaciones creadas por IA?
El peligro evidente es el fraude.
La consultora global Deloitte ha pronosticado que las pérdidas derivadas de estafas con deepfakes (videos manipulados por IA) solo en Estados Unidos podrían ascender a US$54.000 millones el próximo año, frente a los US$16.000 millones de 2023.
El informe citaba el caso de una estafa en la que un empleado de una empresa con sede en Hong Kong transfirió US$33,5 millones a unos estafadores tras mantener una videollamada con una recreación mediante deepfake de su jefe.
Otro uso siniestro de la tecnología deepfake es el espionaje político.
Ya en 2019, una investigación de Associated Press reveló que un perfil de LinkedIn —que incluía una fotografía— perteneciente a una mujer llamada Katie Jones parecía ser ficticio.
Jones afirmaba ser especialista en Rusia y Eurasia, con vínculos con destacados centros de estudios y círculos políticos de Washington.
El informe de AP sostenía que, en realidad, se trataba de un deepfake creado por la inteligencia rusa, el cual había logrado establecer contacto con importantes asesores políticos y funcionarios de seguridad nacional de EE.UU.
En Australia, un político propone actualmente la obligación de divulgar y marcar con una marca de agua el contenido político externo generado por IA.
Para ser justos con la IA, Sutherland también reconoce algunos usos positivos de esta tecnología, como la capacidad de mostrar de forma rápida y económica cómo podría verse un niño desaparecido hace mucho tiempo a diferentes edades.
Afirma que si las personas la utilizan de buena fe y saben que se ha empleado IA, podría ser muy útil para la creatividad.
La buena noticia es que aún no vivimos en un mundo distópico donde sea imposible distinguir entre lo real y lo generado por ordenador.
La mala noticia es que los modelos de IA podrían haber "leído" ya los artículos de investigación académica publicados. Y están aprendiendo.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
- Cómo los trabajadores del sector de la IA están disparando con sus ganancias los precios de la vivienda en San Francisco
- El gigante tecnológico Oracle despide a 21.000 empleados en su apuesta por la IA
- Incendios, robos y amor: qué hacen los agentes de IA cuando los humanos no los vigilan
Más leídas de Sociedad
2“Cifras de abandono”: el dato que vuelve a preocupar sobre la vacunación infantil en la Argentina
3Los análisis de sangre para el Alzheimer ofrecen una nueva promesa para diagnosticar y predecir la enfermedad
4Hay alerta naranja y amarilla por nevadas, lluvias, vientos y Zonda para este miércoles 15 de julio: las provincias afectadas