¿Lograrán los modelos de IA mejorar por sí solos y escapar al control humano?
La perspectiva de que los modelos de inteligencia artificial se enseñen a sí mismos de manera autónoma para ser más eficientes y capaces fue alguna vez una ambición lejana para los investigadores de tecnología, pero ahora parece cada vez más cercana a la realidad.
A medida que la tecnología avanza, los desarrolladores afirman que la IA se acerca a la “automejora recursiva”, o RSI por sus siglas en inglés, en la que los modelos de IA encuentran formas de mejorarse a sí mismos y construir a su sucesor. Esto podría traer la promesa de avances en ciencia y medicina, según ejecutivos de empresas tecnológicas, pero también riesgos.
La incertidumbre sobre adónde podría conducir todo esto es el elemento central de los crecientes temores de que la IA eluda el control humano y de posibles amenazas para la humanidad, lo que llevó a varios magnates de la IA a sumarse el fin de semana pasado a un llamado para desacelerar el ritmo del crecimiento de la tecnología.
Anthropic detalló esta semana cómo su modelo Claude ayuda a la empresa a desarrollar la siguiente versión, más inteligente, de sí mismo. Claude ahora lidera el 26% de la investigación y el desarrollo de modelos de Anthropic, lo que, según la empresa, significa que puede completar la mayor parte de una tarea determinada “de principio a fin a partir de una instrucción de alto nivel”, aunque todavía bajo supervisión humana. Los modelos no trabajan de manera completamente autónoma; al menos, todavía no.
Estos son algunos puntos clave sobre la automejora recursiva.
¿Qué es la automejora recursiva?
Las principales empresas de IA tienen definiciones distintas de la automejora recursiva. Algunas la definen como cualquier retroalimentación de la IA sobre la mejora del modelo, mientras que, para otras, implica que la IA trabaje hacia ese objetivo de manera totalmente autónoma.
La automejora recursiva autónoma, en esencia, significa una IA que puede mejorarse a sí misma diseñando la siguiente versión del sistema, luego la siguiente versión, y así sucesivamente, explicó Anthony Aguirre, presidente y director ejecutivo de la organización sin fines de lucro Future of Life Institute y profesor de física en la Universidad de California, Santa Cruz.
“Lo realmente importante aquí es que, a medida que la IA hace más de esto, se vuelve más rápido, porque la IA opera mucho, mucho más rápido de lo que lo hacen los humanos”, señaló.
El temor en torno a la RSI se basa en gran medida en que de ese proceso surja una superinteligencia descontrolada, indicó John Thickstun, profesor adjunto de ciencias de la computación en la Universidad de Cornell que estudia métodos para controlar el comportamiento de los modelos de IA. Pero añadió que una visión más aterrizada sugiere que una especie de automejora recursiva ya ha estado ocurriendo en el desarrollo de la IA desde hace tiempo.
“Desde hace varios años hemos usado estos modelos en funciones de apoyo para crear la siguiente versión de ellos. Así que la gente usa la generación anterior de modelos para escribir código para los sistemas de IA que luego crean la siguiente generación”, explicó.
Durante años, destacados investigadores de IA como el cofundador de OpenAI Andrej Karpathy han experimentado con intentar que los modelos de IA entrenen y mejoren nuevos sistemas de IA. Esos esfuerzos han aportado mejoras menores, pero no grandes saltos creativos, afirmó Thickstun.
Sin embargo, en la actualidad, las empresas de IA están mucho más cerca de lograr esos saltos mayores de mejora, sostuvo Aguirre.
“Se puede ver en estos gráficos de Anthropic a lo largo del tiempo que la IA realiza cada vez más investigación y que se acerca cada vez más a ser totalmente autónoma”, afirmó. “Y el resultado de ese éxito, en última instancia, es algo que, en mi opinión, es extremadamente aterrador. Creo que hacer esto es probablemente la peor idea en la historia de la humanidad. Y sí, lo están haciendo”.
Algunos laboratorios de IA dicen que la RSI no está lejos
El anuncio reciente de Anthropic ofreció al público —y a otros laboratorios— cierta perspectiva sobre el progreso de la RSI, y alentó a sus competidores a compartir métricas similares. Aun así, la empresa no ha dicho expresamente cuán cerca está de lograr una mejora de modelos totalmente autónoma.
OpenAI, creadora de ChatGPT, anunció este mes que ha desarrollado un “pasante de investigación” automatizado, al que define como un sistema capaz de llevar a cabo tareas de investigación bien definidas bajo dirección humana, como “tareas que a un investigador capacitado le llevarían varios días”. La empresa ha dicho que avanza con el objetivo de crear un “investigador” de IA automatizado para marzo de 2028.
La empresa indicó en ese anuncio que, si bien la RSI puede ayudar a alinear las acciones de los modelos con los valores e intenciones humanas, eso no significa que “una RSI rápida sea necesariamente un resultado que debamos perseguir”.
“La decisión de si debemos avanzar y cómo hacerlo debe depender de nuestra capacidad para preservar el control humano y de decisiones democráticas informadas sobre los beneficios y los riesgos”, escribió la empresa en una publicación de blog.
Elon Musk parece más dispuesto a seguir adelante. Señaló en marzo que, para los modelos Grok de xAI, “los humanos intervienen gradualmente cada vez menos en el circuito” de la mejora del modelo y que “cada modelo sucesivo es construido por el anterior”, pero aclaró que el proceso aún no estaba totalmente automatizado. Ese objetivo podría alcanzarse a finales de este año, añadió, “pero no después” de 2027.
Microsoft y algunas otras empresas líderes de IA parecen estar adoptando un enfoque diferente.
Mustafa Suleyman, director ejecutivo de Microsoft AI, señaló que la empresa avanza hacia una “superinteligencia humanista”, o capacidades avanzadas de IA que estén al servicio de las personas y de la humanidad en general. Suleyman escribió en un ensayo de 2025 que esto no significaría “una entidad sin límites y sin restricciones con altos grados de autonomía”, sino más bien una IA “cuidadosamente calibrada, contextualizada, dentro de límites”.
Cómo las conversaciones sobre desacelerar el desarrollo podrían afectar la RSI
Un desafío clave al que se enfrentan los laboratorios, y al que se han enfrentado esencialmente desde el inicio de la tecnología, es garantizar que sus medidas de seguridad avancen a la par de las capacidades de los modelos.
Han surgido divisiones en la industria tecnológica en torno a los llamados a una desaceleración coordinada de la IA por motivos de seguridad, y no todos los actores principales del ámbito de la IA han comentado específicamente su camino a seguir con la RSI.
Anthropic, que ha sido una voz líder en los llamados a moderar el ritmo, ha dicho que desaceleraría o pausaría temporalmente su trabajo de desarrollo, suponiendo que sus competidores globales también lo hicieran, y de una manera “verificable”.
OpenAI dijo explícitamente este mes que todavía no sabe cómo “llegar de forma segura a una RSI completa y alineada”, y agregó que la empresa “no puede asumir que el progreso en alineación y seguridad mantendrá el ritmo”. Los sistemas más capaces pueden volverse más difíciles de supervisar, continuó, pero perseguir la RSI sigue siendo un objetivo que dice valorar porque un “investigador de IA automatizado también puede ser un investigador automatizado de seguridad o de alineación”.
Esta historia fue traducida del inglés por un editor de AFP con la ayuda de una herramienta de inteligencia artificial generativa.
