1
Anthropic, OpenAI y Google estudian crear un organismo de seguridad para autorregular la IA
Las compañías analizan esta alternativa mientras piden ralentizar el desarrollo global de sus productos
3 minutos de lectura'
Los líderes de los laboratorios de Inteligencia Artificial (IA) más importantes están llamando a un pacto para frenar la competencia frenética en la que se ven inmersos, y estudian la creación de un organismo que se encargaría de controlar unos sistemas de IA que, según los avances logrados en lo que va de año, podrían causar estragos millonarios al desalinearse.
El ensayo publicado este sábado por el CEO de Anthropic, Dario Amodei, en favor de frenar el ritmo de desarrollo de la inteligencia artificial ha sido respaldado por algunas de las figuras más importantes de la industria de la IA, como el CEO de OpenAI, Sam Altman; el responsable de la unidad de IA de Google, Demis Hassabis; y el CEO de SpaceX, Elon Musk.
Entre las reacciones se encuentra la de Hassabis, que publicó en X (antes Twitter) su apoyo a la llamada de Amodei, mientras que Altman le siguió en la red social al compartir que “el progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento”, recordando que la presión entre los gigantes no debería justificar la posible imprudencia.
En el escrito de Amodei se puede leer que, debido a la peligrosidad que puede suponer el desalineamiento de los modelos de IA, que desde este verano boreal han avanzado exponencialmente en su rendimiento y capacidades, provocando casos únicos como el ataque de un enjambre de agentes de IA de OpenAI a Hugging Face, propone un plan de tres pasos para ralentizar el desarrollo de modelos avanzados e imponer medidas de seguridad y evaluación que vayan a la par que su progreso.
Según The Washington Post, antes del respaldo y la publicación del ensayo de Amodei, Anthropic, OpenAI y Google estuvieron debatiendo la creación potencial de un nuevo organismo autorregulador independiente que se encargaría de imponer las medidas de seguridad estándar en un sector que se mueve de forma muy acelerada.
Este organismo sería similar a los de otras industrias, tal como ha citado Amodei poniendo como ejemplo a la Autoridad Reguladora de la Industria Financiera (FINRA) que, como organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos, se encarga de supervisar y autorregular las empresas de valores y corredurías de bolsa del país.
Se trataría de un organismo inédito, ideado por las propias compañías de Silicon Valley que han acelerado el progreso de una tecnología que ahora quieren frenar ellas mismas. De hecho, el propio Amodei sugirió solicitar una exención “limitada” en las leyes de competencia de Estados Unidos que les permita pactar y coordinar estos límites de seguridad.
Críticas al posible organismo de autocontrol
No obstante, estos llamamientos de desaceleración y nuevas reglas para la industria harán más intensa la tormenta política a la que se enfrenta el gobierno de Estados Unidos. El propio presidente, Donald Trump, se ha mostrado contrario a frenar el desarrollo, al declarar: “Estamos superando a China en IA, somos el país más sofisticado del mundo y, francamente, quiero que siga siendo así”.
Asimismo, hay voces críticas en la industria y entre algunos competidores, así como en la administración estadounidense, que señalan que una desaceleración acordada entre los gigantes del sector, aparte de actuar como un “cartel” para bloquear a competidores más pequeños, frenaría la ventaja estratégica del país frente a potencias rivales como China.
