1
Moderadores de Reddit denuncian que empresas utilizan la plataforma para manipular las respuestas de la IA
Compañías especializadas en la venta de péptidos y terapias de reemplazo hormonal habrían inundado el sitio de posteos promocionales de manera encubierta con el objetivo de influir en los resultados que arrojan los chatbots
5 minutos de lectura'
En las últimas semanas, dos temáticas ganaron amplia popularidad en la red social Reddit: los péptidos y las terapias de reemplazo hormonal (HRT, por sus siglas en inglés). La conversación alrededor de estos tópicos tuvo lugar en r/biohackers, una comunidad dentro de Reddit especializada en farmacología experimental, suplementos y longevidad.
Sin embargo, el interés por los péptidos y las terapias de reemplazo hormonal no surgió exclusivamente de manera orgánica. Según denunciaron los moderadores de r/biohackers, compañías del sector habrían inundado la plataforma de posteos promocionales de manera encubierta con el objetivo de influir en las respuestas de los chatbots de inteligencia artificial (IA).
Por este motivo, los moderadores anunciaron que prohibirán nuevas publicaciones sobre ambas temáticas. “Históricamente, esta ha sido una de las mejores fuentes de contenido sobre salud en Reddit. Lamentablemente, nuestro éxito también nos convirtió en un objetivo”, escribió el equipo en un posteo.
Y agregaron: “A medida que los motores de búsqueda impulsados por IA extraen cada vez más respuestas de Reddit, las empresas están utilizando nuestra comunidad para hacer AEO (optimización para motores de respuesta). A esto se suma una explosión en el interés por los péptidos y un aumento del uso de IA que está inundando el subreddit. En conjunto, esto ha ejercido una fuerte presión sobre la calidad del contenido”.
Del SEO al AEO
Según explica 404 Media, esta estrategia se llama AEO (Answer Engine Optimization) y es una evolución del SEO (Search Engine Optimization) tradicional. Se trata de estrategias de contenido diseñadas específicamente para que sistemas de IA recopilen la información publicada y la utilicen como fuente. En ese sentido, Reddit es una de las fuentes más citadas por bots como ChatGPT y el buscador de IA de Google.
Un ejemplo de AEO no intencional surgió cuando Google activó las AI Overviews (respuestas generadas con IA a consultas en su buscador) y recomendó incluir pegamento en la masa de pizza, porque tomó una broma en Reddit como una recomendación al respecto.
Ya hay compañías que se dedican a ofrecer este tipo de servicios. “Agentes de IA que publican contenido masivamente para ayudarte a posicionarte en Google, ChatGPT y foros, generando tráfico a tu sitio web desde todos los rincones de internet”, dice el sitio oficial la empresa RedRover.
En este contexto, uno de los moderadores dijo a 404 Media: “Observamos un enorme potencial para innovar y validar clínicamente estas sustancias [los péptidos]. Pero al mismo tiempo vemos fuentes de abastecimiento extremadamente riesgosas, adolescentes preguntando cómo crecer algunos centímetros más”.
“Me produce cierta tristeza ver cómo este espacio de internet, que era tan humano, se va erosionando y llenando de contenido artificial generado por IA. Me parece algo muy deprimente”, reflexionó.
De hecho, estadísticas difundidas recientemente por Cloudflare revelan que el tráfico de bots superó al tráfico humano en línea por primera vez en la historia de internet. En números concretos, el 57,5% de las solicitudes web son realizadas por sistemas automatizados, mientras que las generadas por usuarios humanos representan el 42,5%.
¿Un nuevo internet?
Para Alan Daitch, experto en tecnología, que las empresas y organizaciones utilicen internet para instalar su agenda o promocionar sus productos no es un fenómeno nuevo. Sin embargo, señala que lo que cambia hoy es la escala. “Por primera vez, tenemos más contenido generado por IA que por humanos, y eso vuelve cada vez más difícil seguir confiando en que internet es una fuente de información sólida. Porque del otro lado, nunca sabés si hay un humano o una máquina haciéndose pasar por alguien y opinando en un foro”, comenta a LA NACION.
Y añade que, mientras esto persista, el desafío será tratar de entender si “lo que estamos viendo del otro lado es una persona tratando de ayudarnos o bien un bot intentando convencernos”.
Por su parte, Sergio Sirotinsky, profesor de IA de la Universidad del Cema, suma: “Antes se buscaba aparecer entre los primeros resultados de búsqueda. Hoy se busca influir directamente en las respuestas que generan los sistemas de IA”.
Bajo esa línea, sostiene que no solo estamos ante una “nueva etapa de internet”, sino que también el principal riesgo es “perder visibilidad y control sobre lo que ocurre en la red”. “Cuando una persona realiza una búsqueda, suele entender qué información consultó y cómo llegó a una conclusión. Cuando intervienen miles o millones de agentes actuando de forma autónoma, ese proceso se vuelve mucho más difícil de seguir y supervisar”, detalla.
En este escenario, las plataformas y desarrolladores de IA se ven obligados a mejorar sus mecanismos de detección de contenido artificial, campañas coordinadas e intentos de manipulación. “La detección y prevención de estas prácticas no es un problema que se resuelva una sola vez, sino una carrera tecnológica permanente”, indica Sirotinsky.
Según el experto, algunas medidas ya son “técnicamente viables”. “Los motores de IA pueden comparar información proveniente de múltiples fuentes independientes antes de considerarla confiable, detectar patrones de publicación coordinada entre cuentas aparentemente distintas, identificar crecimientos anormales de ciertas temáticas o reducir el peso de contenidos que aparecieron masivamente en poco tiempo”, explica.
Y concluye: “Probablemente no exista una solución definitiva, pero sí una combinación de mejores algoritmos y mayor diversidad de fuentes”.
Más leídas
2Los jóvenes cambian de trabajo, pero no más que las generaciones anteriores
3Instituto le ganó a Estudiantes de Río Cuarto y lidera la zona: el blooper que permitió la victoria
4Antonela Roccuzzo, empresaria y esposa de Messi: “Nos levantamos muy temprano, llevamos con Leo a los chicos al colegio y me voy a entrenar”