1
¿Es posible confiar en los detectores de inteligencia artificial?
Un reportaje cuestiona que los detectores de IA sean de confianza
3 minutos de lectura'
Una novela de terror autopublicada en febrero de 2025 por la escritora estadounidense Mia Ballard iba a ser lanzada en Estados Unidos en Orbit Books, pero un suceso repentino cambió los planes: el director ejecutivo de Pangram, una startup que detecta contenido generado por IA, publicó en X que el libro había sido generado en un 78% por inteligencia artificial. Aunque Ballard negó estas acusaciones, la publicación del libro, prevista para marzo, fue cancelada. Además, la edición británica que ya circulaba y que había sido publicada por Hachette Book Group en noviembre del año pasado, se retiró del mercado. Pero ahora se levantan sospechas sobre la veracidad de la herramienta utilizada como detectora de IA.
El medio Wired publicó un extenso artículo cuestionando el funcionamiento de Pangram. El reportaje explica que la empresa era prácticamente desconocida hasta principios de este año, pero saltó a la fama cuando evaluó el libro de Ballard.
Entre las cuestiones que critican a la herramienta se encuentran los sesgos -que según reporta un estudio- tienen estos detectores. “Un estudio demostró que los detectores eran más propensos a identificar como generadas por IA las obras de escritores no nativos de inglés, y escritores neurodiversos también han afirmado que sus patrones de escritura se marcan de forma desproporcionada”, explica el artículo de Wired.
También se le critica que la herramienta funciona peor con bloques de texto cortos, sobre todo con textos de menos de 100 palabras. “La empresa Pangram también admite que un mismo fragmento puede obtener resultados diferentes según se analice de forma aislada o dentro de un contexto más amplio, lo que ocurre precisamente si se copia y pega un breve extracto de una novela”, agrega Wired.
El artículo continúa analizando críticamente la herramienta, sobre todo apoyándose en actitudes que tuvo Max Spero, cofundador y director ejecutivo de Pangram, durante la entrevista que le hizo el medio (mostrando desinterés en la conversación y en el contenido).
Más allá del artículo de Wired, no es la primera vez que un detector de IA se equivoca. Cerca de abril de este año, una consulta a un detector de inteligencia artificial aseguró que un fragmento perteneciente a la obra Frankenstein, novela escrita por la reconocida Mary Shelley hace 200 años, era un texto “100% generado por IA”.
Expertos han explicado en otras oportunidades que, en materia de detección de plagio, hoy no existe una tecnología confiable que permita determinar si un texto fue generado por IA. La cuestión está en cómo funcionan estas herramientas: analizan si la distribución estadística de las palabras se asemeja a la que producen los modelos de lenguaje. En otras palabras, los modelos de lenguaje generan texto eligiendo la siguiente palabra más probable dado el contexto anterior, por lo que producen textos con palabras predecibles, estructuras formales y poca variación sintáctica. Los detectores de IA miden justamente esos patrones, pero el problema es que muchos textos humanos cuentan con esas mismas características.
En otras palabras, las mismas variables que utilizan estas herramientas pueden encontrarse en textos humanos, lo que habla de que el riesgo de encontrarse frente a falsos positivos es real.
Más leídas de Tecnología
2Google presenta Gemini 3.8 Flash y 3.8 Flash Cyber, sus modelos de IA rápida para programación avanzada y ciberseguridad
3Diego Simonet era el “Messi del handball”, sufrió la soledad, se retiró y armó una app para conectar personas
4Huawei tiene nuevo plegable triple, el Mate XT2, que estrena un diseño como el de Samsung