Cómo las imágenes absurdas creadas con IA están cambiando a las redes sociales y afectando a sus usuarios

Théodore recuerda la chapucera fotografía de la IA que lo dejó perplejo.

La imagen mostraba a dos niños del sur de Asia, demacrados y pobres. Por alguna razón, a pesar de sus rasgos infantiles, lucían barbas espesas. Uno de ellos no tenía manos y solo tenía un pie. El otro sostenía un cartel que decía "es mi cumpleaños" y pedía un "me gusta".

Inexplicablemente, estaban sentados en medio de una calle transitada bajo una lluvia torrencial con un pastel de cumpleaños con velas. La imagen estaba llena de indicios de que fue creada con IA. Pero en Facebook se volvió viral con casi un millón de "me gusta" y emojis de corazón.

Algo se encendió en Théodore.

"Me quedé atónito. Las absurdas imágenes creadas con IA estaban por todo Facebook y estaban teniendo una gran repercusión sin que nadie se fijara en ellas. Me pareció una locura", dice el estudiante parisino de 20 años.

Así que abrió una cuenta en X llamada "Insane AI Slop" y empezó a criticar y burlarse del contenido que engañaba a la gente.

Otros se dieron cuenta y su bandeja de entrada pronto se llenó de mensajes de personas enviando propuestas para supuestas "basuras de IA".

Los temas comunes comenzaron a hacerse evidentes: religión, militares o niños pobres haciendo cosas conmovedoras.

"Los niños del tercer mundo haciendo cosas impresionantes siempre son populares, como un niño pobre en África que construye una estatua increíble con basura. Creo que a la gente le parece bien, así que los creadores piensan: 'Genial, hagamos más de esto'", dice Théodore.

La cuenta de Théodore pronto alcanzó más de 133.000 seguidores.

La avalancha de basura de la Inteligencia Artificial —que él define como vídeos e imágenes falsos, poco convincentes y creados rápidamente— es ahora imparable.

Las empresas tecnológicas han adoptado la IA y algunas afirman están empezando a tomar medidas enérgicas contra algunas formas de "basura", aunque las redes sociales parecen seguir repletas de este contenido.

En tan solo un par de años, la experiencia de usar las redes sociales ha cambiado profundamente. ¿Cómo sucedió y qué efecto tendrá en la sociedad? Y, quizás lo más urgente de todo: ¿cuánto les importa realmente a los miles de millones de usuarios de las redes sociales?

La "tercera fase" de las redes sociales

En octubre, durante otra eufórica presentación de resultados, el director ejecutivo de Meta, Mark Zuckerberg, declaró con alegría que las redes sociales habían entrado en una tercera fase, ahora centrada en la IA.

"La primera fue cuando todo el contenido provenía de amigos, familiares y cuentas que seguías directamente. La segunda fue cuando añadimos todo el contenido de los creadores. Ahora que la IA facilita la creación y remezcla de contenido, vamos a añadir otro enorme corpus de contenido", declaró a los accionistas.

Meta, que gestiona las redes sociales Facebook, Instagram y Threads, no solo permite publicar contenido generado por IA, sino que también ha lanzado productos para facilitar su creación. Generadores de imágenes y vídeos, así como filtros cada vez más potentes, se ofrecen ahora de forma generalizada.

Contactada para que hiciera comentarios, Meta envió a la BBC la conferencia de resultados de enero. En dicha conferencia, el multimillonario afirmó que la empresa se estaba inclinando aún más hacia la IA y no mencionó ninguna medida drástica contra la basura.

"Pronto veremos una explosión de nuevos formatos multimedia más inmersivos e interactivos, posibles solo gracias a los avances en IA", declaró Zuckerberg.

El director ejecutivo de YouTube, Neal Mohan, escribió en su blog de previsión para 2026 que, tan solo en diciembre, más de un millón de canales de YouTube utilizaron las herramientas de IA de la plataforma para crear contenido.

"Al igual que el sintetizador, Photoshop y la CGI revolucionaron el sonido y las imágenes, la IA será una bendición para los creativos que estén listos para involucrarse", escribió.

El director ejecutivo también reconoció la creciente preocupación por el "contenido de baja calidad, también conocido como basura de IA". Añadió que su equipo está trabajando en formas de mejorar los sistemas para detectar y eliminar "contenido repetitivo y de baja calidad".

Pero también descartó emitir juicios sobre qué debería o no permitirse que prospere. Señaló que contenido que antes era de nicho, como el ASMR (sonidos relajantes diseñados para provocar un hormigueo en la cabeza) y los videojuegos en vivo, ahora son populares.

Según un estudio de la empresa de inteligencia artificial Kapwing, el 20% del contenido que se muestra en una cuenta de YouTube recién creada ahora es "vídeo de IA de baja calidad".

Los vídeos cortos, en particular, fueron un éxito, ya que Kapwing los encontró presentes en 104 de los primeros 500 clips de YouTube Shorts mostrados en una nueva cuenta creada por los investigadores.

La economía de los creadores parece ser un gran impulsor, ya que los creadores de contenido y los canales pueden generar ingresos gracias a la interacción y las visualizaciones.

A juzgar por las visualizaciones en algunos canales y vídeos de IA, la gente se siente atraída por el contenido, o al menos, por los algoritmos que dictan lo que vemos.

Según Kapwing, el canal de contenido basura sobre IA con más visualizaciones es Bandar Apna Dost, de India, con 2.070 millones de visualizaciones, lo que genera a sus creadores unas ganancias anuales estimadas en US$4 millones.

Sin embargo, también se está produciendo una reacción negativa.

Bajo muchos vídeos virales de IA, es habitual ver una oleada de comentarios furiosos que critican el contenido.

Monstruos gigantes y parásitos intestinales mortales

Théodore, el estudiante de París, contribuyó a impulsar esta reacción.

Aprovechando su recién adquirida influencia en X, se quejó a los moderadores de YouTube sobre la avalancha de extraños dibujos animados de IA que conseguían muchísimas visualizaciones. En su opinión, eran perturbadores y dañinos, y en algunos casos le parecían dirigidos a niños.

Los vídeos se titulaban cosas como "Mamá gata salva a gatito de parásitos intestinales mortales" y mostraban escenas sangrientas.

Otro vídeo corto mostraba a una mujer en camisón que se come un parásito y luego se convierte en un monstruo gigante y furioso que finalmente es curado por Jesús.

YouTube eliminó los canales, avisándonos que lo hicieron porque infringían las normas de su comunidad. Afirmaron que su objetivo es conectar a sus usuarios con contenido de alta calidad, independientemente de cómo se haya creado, y que trabajan para reducir la difusión de contenido de baja calidad basado en IA.

Pero esa experiencia, y muchas otras similares, han desmoralizado a Théodore.

Incluso sitios web de estilo de vida aparentemente acogedores como Pinterest (el foro de recetas e ideas de diseño de interiores) se han visto afectados.

Los usuarios se han sentido tan frustrados por la avalancha de contenido basura generado por IA que la compañía introdujo un nuevo sistema de exclusión voluntaria para el contenido generado por IA.

Sin embargo, esto depende de que los usuarios admitan que sus imágenes de la casa perfecta están hechas con IA.

Furia en la sección de comentarios

En mi muro (y sé que el de cada uno es diferente, incluyendo los comentarios), las reacciones negativas a las tonterías de la IA se han vuelto incesantes.

Ya sea en TikTok, Threads, Instagram o X, parece haber un movimiento popular contra este contenido. A veces, la cantidad de "me gusta" en los comentarios que critican a la IA supera con creces la publicación original.

Tal es el caso de un video reciente que muestra a un snowboarder rescatando a un lobo de un oso. El video en sí tuvo 932 "me gusta", frente a los 2.400 de un comentarista que escribió: "Levanten la mano si están cansados ​​de esta porquería de la IA".

Pero, por supuesto, todo alimenta a la bestia. Toda interacción es buena para las redes sociales, donde mantenernos enganchados es clave.

Entonces, ¿realmente importa si el video increíble, conmovedor o impactante en tu feed es real o no?

El efecto de la "podredumbre cerebral"

Emily Thorson, profesora asociada de la Universidad de Siracusa (EE. UU.), especializada en política, desinformación y percepciones erróneas, afirma que depende de lo que la gente haga en la red social.

"Si una persona usa una plataforma de vídeos cortos solo para entretenerse, su criterio para determinar si algo vale la pena es simplemente '¿es entretenido?'", afirma. "Pero si alguien usa la plataforma para aprender sobre un tema o para conectar con miembros de la comunidad, podría percibir el contenido generado por IA como más problemático".

La opinión de la gente sobre la basura generada por IA también depende de cómo se comunica.

Si algo se presenta claramente como una broma, parece tomarse como tal. Pero cuando la basura generada por IA se ha creado específicamente para engañar, puede enfadar a la gente.

Un vídeo generado por IA que vi recientemente es emblemático: un vídeo increíblemente realista, de estilo histórico natural, de una asombrosa cacería de leopardo. En los comentarios, algunos espectadores se dejaron engañar; otros no estaban seguros.

"¿De qué documental es?", preguntó un comentarista. "Por favor. Es la única manera de demostrar que no existe IA".

Alessandro Galeazzi, de la Universidad de Padua (Italia), investiga el comportamiento en redes sociales y las cámaras de eco.

Afirma que verificar si un vídeo es de IA requiere esfuerzo mental y, a largo plazo, teme que la gente simplemente deje de comprobarlo.

"Creo que la avalancha de contenido absurdo y de baja calidad generado mediante IA podría reducir aún más la capacidad de atención de las personas", afirma.

Distingue el contenido que pretende engañar de la basura de IA más cómica y obviamente falsa, como peces con zapatos o gorilas levantando pesas en el gimnasio.

Pero incluso ese contenido más extravagante también podría tener un impacto perjudicial. Habla del riesgo de "podredumbre cerebral": la idea de que nuestra exposición constante a las redes sociales está perjudicando nuestras capacidades intelectuales.

"Diría que la basura de IA aumenta el efecto de la podredumbre cerebral, haciendo que las personas consuman rápidamente contenido que saben que no solo es improbable que sea real, sino que probablemente no sea significativo ni interesante", afirma.

Recortes en los equipos de moderación

Más allá de la basura, algunos contenidos creados con IA pueden tener consecuencias mucho peores.

Las empresas xAI de Elon Musk y la plataforma social X se vieron obligadas recientemente a cambiar sus normas después de que el chatbot Grok se utilizara para desnudar digitalmente a mujeres y niños en X.

Y tras el ataque estadounidense a Venezuela, se difundieron vídeos falsos de personas llorando en las calles y agradeciendo a Estados Unidos. Este tipo de contenido puede influir en la opinión pública y dar la impresión de que la redada estadounidense fue más popular de lo que realmente fue.

Esto es especialmente preocupante, ya que muchas personas utilizan las redes sociales como su única fuente de noticias, según los analistas.

Manny Ahmed, director ejecutivo de OpenOrigins, una empresa que distingue entre IA e imágenes reales, afirma que necesitamos una nueva forma para que quienes publican contenido real puedan demostrar que sus vídeos e imágenes son auténticos.

"Ya hemos llegado al punto en que no se puede determinar con certeza qué es real solo con una inspección", afirma. "En lugar de intentar detectar lo falso, necesitamos una infraestructura que permita que el contenido real demuestre públicamente su origen".

Podría pensarse que esto es algo que las empresas de redes sociales podrían asumir. Pero muchas, como Meta y X, han reducido sus equipos de moderación y han adoptado un enfoque más colectivo. Ahora prefieren confiar en que los usuarios etiqueten las cosas como falsas o engañosas.

¿Redes sociales sin desperdicios?

Entonces, si los gigantes tecnológicos actuales están, en general, dispuestos a dejar que fluya la basura, ¿podría surgir una nueva plataforma de redes sociales que prometa una alternativa sin basura y eventualmente desafíe a las empresas tradicionales?

Parece improbable, ya que la detección de la IA es cada vez más difícil. Las máquinas ya no pueden detectar con precisión si un video o una imagen es definitivamente falso, y tendrían aún más dificultades para juzgar subjetivamente si el contenido se considera basura.

Sin embargo, si surge una nueva red social y la gente vota, esto podría cambiar las cosas. Todo esto me recuerda al auge de BeReal, una aplicación francesa que se popularizó durante la pandemia y que anima a los usuarios a mostrar su autenticidad mediante selfies sin filtros en momentos aleatorios.

BeReal aún no ha alcanzado el mismo nivel que Facebook y Snapchat, y probablemente nunca lo hará. Pero sí logró que otras plataformas se fijaran en ella y, en algunos casos, copiaron la idea. Quizás eso podría volver a suceder si alguien que se opone a la IA da el paso.

En cuanto a Théodore, siente que la batalla está perdida y que la IA ha llegado para quedarse.

A pesar de las publicaciones que siguen llegando a su buzón de sus ahora 130.000 seguidores, ya no publica tanto y se ha resignado en gran medida a la nueva normalidad de la vida en línea.

"A diferencia de muchos de mis seguidores, no estoy dogmáticamente en contra de la IA", dice. "Estoy en contra de la contaminación en línea de la IA, creada para el entretenimiento y las visualizaciones rápidas".

*Crédito de la imagen superior: BBC; imagen de IA generada con Adobe Firefly.

Haz clic aquí para leer más historias de BBC News Mundo.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro canal de WhatsApp.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.

• "Las empresas de IA no tienen plan de negocio o sustancia real para sostener su valor. Una caída bursátil tendrá efectos enormes para el mundo"
• Un pixel rojo en la nieve: cómo la IA ayudó a encontrar a un montañista desaparecido
• Willow: el laboratorio que resguarda la computadora más poderosa del mundo en el lugar más frío del universo

BBC Mundo

---

---

Conforme a