1
Revelan que OpenAI, Anthropic y Google contratan a terceros para revisar las conversaciones de los usuarios con las IAs
Una investigación de 404Media muestra que las compañías permiten que se analicen los chats para evaluar la calidad de las respuestas
3 minutos de lectura'
Las conversaciones que mantienen los usuarios con los chatbots de OpenAI y Anthropic son posteriormente revisadas por contratistas externos a estas empresas como parte de los trabajos que realizan para ajustar las respuestas que ofrecen sendas inteligencias artificiales (IA).
OpenAI ha contratado a cientos de contratistas para que revisen las indicaciones (prompts) que los usuarios escriben en sus conversaciones con ChatGPT, como informa 404Media, que ha tenido acceso a documentos internos en los que se trata este asunto.
El objetivo de esta revisión es mejorar las respuestas que la IA ofrece a los usuarios, principalmente para evitar que ChatGPT adopte durante la conversación características que puedan hacerle parecer humano.
También revisan que en sus respuestas la IA no se muestre aduladora, es decir, que no den la razón a los usuarios en todo momento. Este punto es importante, porque los usuarios utilizan los chatbots de IA no solo como herramientas de búsqueda y de productividad, sino también como confidentes, terapeutas o asesores médicos, en busca de consejo para actuar en determinadas circunstancias.
La adulación puede acabar por influir negativamente en las creencias e intenciones de los usuarios al reafirmarles en su intención de llevar a cabo acciones que son claramente perjudiciales.
Las indicaciones que revisan los contratistas proceden de las conversaciones y pueden contener datos sensibles, incluso si no ven el nombre de usuario y se retira la información personal antes de que las conversaciones lleguen a ellos, según indica OpenAI.
También Anthropic y Google
Anthropic, otra de las empresas más importantes en IA, ha confirmado al medio citado que ellos emplean a revisores humanos para mejorar sus modelos con los usuarios que activan la opción correspondiente, y que eliminan su identificador.
Google, por su parte, informa en los términos de servicio de Gemini que emplea a revisores humanos que analizan algunas de las conversaciones para mejorar los modelos de IA. “Evalúan si las respuestas de las aplicaciones de Gemini han sido de baja calidad, erróneas o perjudiciales. También sugieren mejores respuestas”, explica. Las conversaciones revisadas se conservan durante un máximo de tres años, pero es posible no participar en esta revisión deshabilitando la opción ‘Guardar actividad’.
No es el primer caso de una empresa que cede la revisión de las interacciones con su producto de IA a un equipo de humanos. En 2019 se conoció que Amazon, Apple y Google grababan y analizaban las conversaciones que los usuarios tenían con sus respectivos asistentes (Alexa, Siri y Asistente) con el fin de mejorar sus servicios, lo que llevó a cambios en sus políticas y a incorporar la posibilidad de no participar en este proceso.
