Exinvestigador de OpenAI y Anthropic acusa a ambas empresas de no "actuar de manera responsable"
Un investigador de inteligencia artificial que había renunciado a OpenAI para trabajar en Anthropic, al considerarla más prudente, dejó el martes la industria y acusó a los dos laboratorios de...
Un investigador de inteligencia artificial que había renunciado a OpenAI para trabajar en Anthropic, al considerarla más prudente, dejó el martes la industria y acusó a los dos laboratorios de EE.UU. de "jugar con nuestras vidas".
Jacob Coxon, un británico de 27 años, trabajó durante los últimos tres años en preentrenamiento, la etapa en la que los modelos de IA absorben grandes cantidades de información, primero en OpenAI y luego, desde este año, en su mayor rival, Anthropic.
"Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas", escribió el martes en X.
"Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo", agregó.
Su renuncia llega mientras Anthropic prepara su salida a bolsa.
Contactadas por la AFP, ninguna de las dos empresas respondió de inmediato.
Líderes de la industria aseguran que creen que esta se aproxima a la "auto-mejora recursiva", en la que un modelo podría diseñar a su propio sucesor, completamente por fuera del control humano.
Coxon agregó que cree que ninguna empresa debería desarrollar de manera responsable una IA que supere a los humanos sin intervención gubernamental o una desaceleración coordinada.
"En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo", afirmó Coxon.
En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos.
A finales de julio, más de 1000 empleados de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, pidieron a Washington preparar un mecanismo de frenado.
El domingo, el jefe científico de OpenAI, Jakub Pachocki, escribió que "el momento actual llama por extrema precaución" y coordinación internacional.
