1
Empleados de OpenAI y Microsoft, preocupados por ser parte del “mayor robo de trabajo de la historia de la humanidad”
Documentos internos incluidos como parte del juicio del New York Times contra OpenAI y Microsoft por usar sus artículos para entrenar a su IA revelan la preocupación de los empleados de esas empresas por estar perpetrando “un robo asombroso de proporciones sin precedente”
5 minutos de lectura'
Documentos judiciales recientemente desclasificados mostraron una profunda preocupación dentro de Microsoft y de su socio cercano OpenAI por el uso de millones de artículos periodísticos para desarrollar sistemas de inteligencia artificial.
A medida que OpenAI avanzaba con su trabajo, empleados de Microsoft debatían si lo que OpenAI estaba haciendo representaba el “mayor robo de trabajo de la historia de la humanidad” y si podría crear un “bucle de perdición” (doom loop) que, en última instancia, amenazara la calidad de los grandes modelos de lenguaje que estaban construyendo.
“Millones de personas en todo el mundo pronto considerarán que los grandes modelos que ‘aspiran’ todo su trabajo constituyen un robo asombroso de proporciones sin precedente”, señalaba un documento interno de Microsoft de 2023.
Dentro de OpenAI también existía la preocupación de que su chatbot, ChatGPT, alejara a la gente de la lectura de noticias en otros sitios. En un memorando de junio de 2023, Nick Turley, quien dirigía el equipo de desarrollo de ChatGPT, escribió que la IA representaba una “amenaza existencial” para los editores. Y en febrero de 2024, escribió que los productos de IA “se volverán cada vez más sustitutivos a medida que mejoren”.
Fragmentos de esas discusiones salieron a la luz el jueves como parte de una demanda muy seguida que The New York Times presentó contra OpenAI y Microsoft a finales de 2023. Otros once editores se han sumado a la demanda. El juez Sidney H. Stein, del Tribunal de Distrito de EE. UU. para el Distrito Sur de Nueva York, está considerando las mociones para un juicio sumario. Los documentos relacionados con el caso se están desclasificando paulatinamente mientras el juez evalúa dichas mociones.
Los editores argumentan que las empresas tecnológicas violaron la ley de derechos de autor al extraer (vía scraping) millones de sus historias de internet y de otras bases de datos, y al utilizar el texto, sin aprobación ni pago, para entrenar sistemas avanzados de IA.
Microsoft y OpenAI sostienen que su trabajo estaba cubierto por las protecciones legales del “uso justo” (fair use) de material con derechos de autor. Afirman que los artículos se transformaron lo suficiente como para convertirse en un trabajo completamente nuevo mediante la IA, y que no eran sustitutos que perjudicaran el valor de la obra original.
Un portavoz de Microsoft, Alex Haurek, dijo en un comunicado que los memorandos internos, escritos por Brent Hecht, director de ciencia aplicada de Microsoft, no representaban la postura de la empresa.
“La posición de Microsoft está expuesta en sus presentaciones ante el tribunal, las cuales explican por qué estos usos transformadores son consistentes con la ley de derechos de autor y por qué Copilot no es un sustituto del periodismo de los editores”, declaró, refiriéndose al asistente de IA de Microsoft.
OpenAI no respondió a las solicitudes de comentarios.
En una presentación independiente, Microsoft señaló que Hecht era un académico investigador que también trabajaba en la Universidad Northwestern. Indicó que no tomaba decisiones y que fue contratado por Microsoft “para presentar perspectivas divergentes y asimétricas”.
“El mundo puede ver lo que OpenAI y Microsoft pensaron desde el principio sobre la imparcialidad de su propio comportamiento”, declaró en un comunicado Steven Lieberman, representante del New York Daily News y de otros siete periódicos en el caso. The New York Times declinó hacer comentarios.
Las empresas de noticias afirmaron que OpenAI implementó herramientas específicamente para eludir los muros de pago (paywalls) establecidos por los editores. Según los documentos, cuando un miembro del personal le escribió a Greg Brockman, presidente de OpenAI, informándole sobre el desarrollo de “un truco para saltarse el muro de pago de nytimes”, Brockman respondió “ah, genial”.
Satya Nadella, director ejecutivo de Microsoft, también declaró en un testimonio ante abogados que “cualquier contenido protegido por muro de pago debería contar con licencia para cualquiera que desee utilizarlo”. Añadió que si “se le hubiera informado de que OpenAI había extraído y entrenado con información protegida por muro de pago”, habría ejercido el derecho de Microsoft a exigir que OpenAI reentrenara sus modelos.
Haurek, de Microsoft, dijo que Nadella “se refirió a principios generales y a los cambios en curso sobre cómo la gente encuentra y consume información”.
Los documentos muestran preocupación dentro de las empresas de que la industria de las noticias no pueda sobrevivir si se toma su trabajo. Los grandes modelos de IA “son un producto que destruye su propia cadena de suministro”, escribió Hecht.
Algunos integrantes de OpenAI también tenían reservas sobre la copia de artículos de noticias, según los documentos desclasificados. En 2020, Jack Clark, quien era director de políticas de OpenAI, escribió un memorando para Brockman y Sam Altman, director ejecutivo de OpenAI. Clark, quien más tarde dejó la empresa para cofundar Anthropic, escribió que el trabajo de la startup “nos llevará cada vez más a crear sistemas que sustituyan el trabajo de las personas que definen la ‘cultura’ de la sociedad”.
Clark advirtió que “OpenAI se convertirá en el símbolo de cómo Silicon Valley se mete desconsideradamente en otros ámbitos de la vida y deja un desastre en el camino”.
(Anthropic remitió una solicitud de comentarios a OpenAI.)
También hubo indicios de que ChatGPT no estaba redirigiendo a los usuarios a leer las historias relevantes tal como fueron escritas por los editores, de acuerdo con los documentos. En febrero de 2023, un ingeniero de software de OpenAI escribió a sus colegas que, “sin importar cuán prominentemente mostremos los enlaces, los usuarios no harán clic”.
Los productos de IA “son en gran medida sustitutivos, punto”, escribió Turley, de OpenAI.
Más leídas de Tecnología
