1
¿La IA puede robarse tus ideas? El inquietante caso que abrió un nuevo debate sobre los chatbots
La polémica surgió después de que un matemático sospechara que OpenAI pudo haberse beneficiado de una investigación que él había explorado con sus propias herramientas
6 minutos de lectura'
El martes, OpenAI anunció que una de sus tecnologías de inteligencia artificial más nuevas había resuelto un problema matemático con un premio de un millón de dólares.
La noticia sacudió tanto al mundo de la inteligencia artificial como al de las matemáticas, al demostrar hasta qué punto podía llegar el poder de esta tecnología cuando se la orientaba a problemas que desconcertaron a los seres humanos durante décadas. Pero, en medio del revuelo, un profesor de la Universidad de Nueva York llamado Tristan Buckmaster se preguntó si OpenAI había resuelto aquel problema matemático de un millón de dólares con ayuda de sus investigaciones.
Buckmaster había estado explorando ideas similares utilizando una inteligencia artificial operada por una empresa conocida: la propia OpenAI. Poco después, OpenAI reconoció en una publicación en redes sociales que su nueva tecnología —que todavía no fue lanzada al público— podría haber aprendido del trabajo de Buckmaster.
“Aunque es poco probable, no podemos descartar que datos anonimizados derivados del uso que hicieron de nuestros productos hayan contribuido a mejorar nuestros modelos”, escribió la compañía.
Más tarde, sin embargo, OpenAI descartó esa posibilidad. “Podemos afirmar categóricamente que es imposible que las indicaciones que el doctor Buckmaster introdujo en Codex durante los últimos dos meses hayan influido de alguna manera en el sistema”, señaló la empresa en un comunicado enviado por correo electrónico a The New York Times.
Pero los temores de Buckmaster condensan un problema que podría afectar a cualquiera que utilice tecnologías de inteligencia artificial operadas por OpenAI y por sus numerosos competidores, entre ellos Anthropic, Google y Meta. A medida que las personas introducen información privada o sensible en estos sistemas, podrían estar alimentando las tecnologías del futuro.
“No se puede suponer que una idea es simplemente materia prima para el molino y que el molino solo procesa cantidades enormes de datos”, dijo Oren Etzioni, profesor de la Universidad de Washington y director ejecutivo fundador del Allen Institute for Artificial Intelligence. “No se puede asumir que esa idea no tuvo ningún impacto”.
Si alguien introduce información en un chatbot, esos datos podrían reaparecer días, meses o años más tarde en una futura versión de ese modelo. Si empresarios utilizan la IA para explorar ideas con las que esperan cambiar el mundo, podrían terminar ayudando a otros —un competidor o incluso las propias compañías de inteligencia artificial— a llevarlas a la práctica.
A medida que los gigantes de la IA comenzaron a explorar territorios desconocidos de las matemáticas y la ciencia, este riesgo podría volverse especialmente grave para matemáticos y científicos. Si un investigador desarrolla nuevas ideas mediante ChatGPT, de OpenAI, o Claude, de Anthropic, esos conceptos podrían influir en el comportamiento de futuros sistemas de inteligencia artificial.
OpenAI señala que cualquier persona que utilice sus productos puede desactivar la configuración que permite a la compañía incorporar los datos del usuario al desarrollo de nuevas tecnologías. Por ejemplo, quienes usan ChatGPT pueden desactivar la opción “Mejorar el modelo para todos”. Otras empresas ofrecen alternativas similares.
“Con cualquier dato que uno comparta desde una cuenta personal, hay que asumir que puede utilizarse para entrenar nuevos sistemas”, dijo Aneesh Muppidi, investigador de inteligencia artificial de la Universidad de Stanford. “Pero eso no significa que todos los datos terminen volcados en nuevas tecnologías”.
Las empresas, los laboratorios académicos y otras organizaciones de investigación suelen negociar contratos con OpenAI que impiden a la compañía utilizar sus datos privados. Como investigador de Stanford, por ejemplo, Muppidi utiliza una versión de las tecnologías de OpenAI destinada exclusivamente a estudiantes, profesores y otros empleados de esa universidad. OpenAI acordó no utilizar esos datos para entrenamiento.
(The New York Times demandó a OpenAI y Microsoft por supuestas infracciones de derechos de autor relacionadas con el uso de contenidos periodísticos en sistemas de inteligencia artificial. Ambas compañías rechazaron las acusaciones de la demanda).
Aunque OpenAI afirma ahora que determinó que la investigación de Buckmaster no pudo haber sido utilizada para entrenar su nuevo sistema, la cuestión de fondo sigue abierta. Los actuales sistemas de inteligencia artificial abarcan billones de “parámetros” —los patrones que identifican mientras empresas como OpenAI los entrenan con enormes cantidades de datos— y no existe una manera de revisar todos esos patrones para determinar cómo llegó finalmente un sistema a una determinada respuesta.
La tarea resulta particularmente difícil cuando se trata de un complejo problema matemático como el que está en el centro de la controversia de OpenAI: el “problema de existencia y regularidad de Navier-Stokes”, conocido simplemente como el problema de Navier-Stokes. OpenAI afirmó que lo resolvió utilizando hasta 10.000 “agentes” de inteligencia artificial que trabajaron de manera coordinada durante casi 90 horas.
“No hay una manera sencilla de pensar este problema”, dijo Sanjeev Arora, profesor de Ciencias de la Computación de la Universidad de Princeton. “No sabemos qué está ocurriendo dentro de estos modelos”.
Pero Arora y otros expertos señalan que una situación como la de Buckmaster genera más preocupación que otros temas mucho más comunes. Un sistema de inteligencia artificial puede contener cantidades enormes de información sobre Taylor Swift o las papas fritas, explicó Etzioni, pero relativamente poca sobre cómo resolver el problema de Navier-Stokes.
“Cuando se trabaja con una idea muy poco frecuente, en un campo muy particular, esa idea rara es como una única voz en una habitación vacía”, explicó.
La posibilidad inquieta a muchos matemáticos y otros científicos, que están reevaluando la forma en que trabajan en la era de la inteligencia artificial. Pero Arora sostiene que la discusión pronto podría perder relevancia, una vez que las capacidades de estos modelos superen ampliamente lo que puede hacer un ser humano.
“Este será un problema durante los próximos seis meses o un año”, dijo. “Después de eso, quizá la competencia humana ni siquiera merezca ser tenida en cuenta”.
Más leídas de El Mundo
2El fotógrafo de la icónica imagen del “falling man” del 11 de Septiembre: “Nunca olvido el ruido del impacto de los cuerpos contra el suelo”
3El dramático incidente con un dron que sufrió el avión de Zelensky camino al funeral del rey Harald V
4Cuarto día de juicio por el asesinato de Aramburú en París: disparos “injustificados” y la declaración de los policías