1
Durante años advirtieron que la IA podría matar a todos los humanos. Ahora la gente los escucha
Una comunidad que antes estaba en los márgenes de la industria tecnológica gana influencia a gran velocidad, mientras los “agentes” de IA realizan hazañas asombrosas y alarmantes
7 minutos de lectura'
WASHINGTON.– En un día de verano, Evan Hubinger lanzó una advertencia tajante sobre el futuro con una bebida de boba en la mano. La inteligencia artificial era una amenaza para la humanidad porque algún día podría aprender a engañar a sus creadores, le dijo a un grupo que se había reunido en Berkeley, California, para conocer más sobre los riesgos de esta tecnología.
“Mi conjetura es que... cuando la pongamos en una situación en la que crea que puede matarnos, simplemente nos asesinará”, dijo, según un video de la charla que publicó entonces en un foro online.
La alarma de 2022 recibió poca atención. Hubinger había terminado la universidad tres años antes y trabajaba en una organización sin fines de lucro poco conocida, dedicada a la entonces marginal tarea de evitar que las máquinas algún día eliminaran a los seres humanos.
Pero cuando Hubinger lanzó esta semana una advertencia similar en una publicación de X, su mensaje acumuló decenas de millones de visualizaciones y llevó a legisladores estatales y federales a hacerse eco de su preocupación. Esta vez habló como jefe de equipo de Anthropic, desarrolladora del chatbot Claude y una compañía que se prepara para salir a bolsa con una valuación superior al billón de dólares.
“La IA podría matar a todos los humanos... Personalmente, creo que la probabilidad supera el 10% en la próxima década”, escribió Hubinger, en respuesta a la renuncia de su colega Jacob Coxon, quien acusó a Anthropic de avanzar a toda velocidad pese a los peligros.
El alcance ampliado de Hubinger refleja la influencia creciente de una comunidad que antes estaba en la periferia de la industria tecnológica y que, desde hace años, intenta instalar la idea de que impedir que la IA destruya a la humanidad es un problema urgente.
OpenAI y su rival Anthropic fueron fundadas por investigadores vinculados al movimiento de seguridad de la IA, que sostiene que hoy es necesario tomar en serio la posibilidad de que esta tecnología extinga a la humanidad en algún momento del futuro. A medida que ambas empresas crecieron a una velocidad extraordinaria, esa visión ganó protagonismo.
Más recientemente, los “agentes” de IA resolvieron hitos matemáticos, hackearon servidores de empresas y desencadenaron una movilización por razones de seguridad nacional en la Casa Blanca. Todo parece indicar que existe una audiencia más receptiva a los mensajes apocalípticos sobre la IA.
Nathan Lambert, ex científico investigador senior de la organización sin fines de lucro Allen Institute for AI, dijo que no se tomó en serio a Dario Amodei, CEO de Anthropic, cuando predijo que la IA se adueñaría de la ingeniería de software. Ahora, aseguró, ya no escribe código porque la IA lo hace por él.
“De verdad tienen una capacidad de anticipación muy notable respecto de la tecnología”, dijo Lambert sobre los defensores de la seguridad de la IA.
Pero el éxito al anticipar tendencias tecnológicas recientes no significa que se cumplirán predicciones más especulativas, advirtió. “Hay mucho más complejo de dios cuando acertaste durante una década y construiste las empresas más exitosas de todos los tiempos”, afirmó.
Tengan razón o no, el movimiento ahora puede moldear tanto la política como la opinión pública, como ocurrió con la controversia de esta semana sobre el riesgo de extinción humana, que se extendió por las redes sociales y los noticieros de máxima audiencia.
Las mismas predicciones sobre un final sombrío para la humanidad circulan desde hace años, señaló Sara Hooker, directora ejecutiva y cofundadora de la startup de IA Adapation, y ex investigadora de Google DeepMind. Sin embargo, esta nueva oleada llega en un contexto de creciente inquietud pública frente a la IA.
“Esto expresa una enorme división en un momento en que la tecnología se vuelve cada vez más poderosa”, dijo Hooker, quien considera que esas predicciones no resultan útiles. “¿De dónde sale ese 10%? ... A gran parte de esto le falta precisión”, agregó.
Predicciones audaces
El movimiento de seguridad de la IA surgió de una red de foros online como LessWrong, donde confluyeron ideas de subculturas del Área de la Bahía de San Francisco. Entre ellas, los altruistas eficaces, que intentan calcular cómo hacer el mayor bien posible en el mundo, y el transhumanismo, una filosofía que explora cómo mejorar a la raza humana mediante la tecnología.
Las creencias centrales de la nueva comunidad eran que la IA inevitablemente superaría a los seres humanos y que podría extinguir a la humanidad con facilidad si no era diseñada para compartir los valores de sus desarrolladores humanos.
Esas ideas fueron fundamentales en la creación de OpenAI y, más tarde, de Anthropic, hoy dos de las empresas más valiosas del planeta.
En paralelo, un grupo de acaudalados donantes tecnológicos destinó cientos de millones de dólares durante la última década, a través de donaciones académicas, organizaciones sin fines de lucro, subsidios y becas. Así sembraron las ideas de seguridad de la IA entre élites de universidades, gobiernos y medios. El resultado fue un flujo de talento hacia las empresas tecnológicas y la política.
La charla de Hubinger en 2022 estuvo dirigida a beneficiarios de una beca para aprender más sobre seguridad de IA. El programa está a cargo de una organización educativa sin fines de lucro que el año pasado recibió más de 15 millones de dólares en donaciones de la mayor filantropía dentro del ecosistema de seguridad de IA.
Después del despegue de ChatGPT y de que OpenAI y Anthropic fueran presentadas como campeonas nacionales, ejecutivos de ambas compañías expresaron en ocasiones su preocupación por los daños que la IA podría causar a la humanidad. Pero ninguna redujo el ritmo. Las dos presentaron la documentación para cotizar en bolsa. (The Washington Post mantiene un acuerdo de contenidos con OpenAI).
Algunas organizaciones de seguridad de IA respondieron a la reciente notoriedad de esta tecnología mediante el respaldo a influencers de redes sociales, para involucrar al público en el debate sobre el riesgo existencial, y con gestiones ante miembros del Congreso, entre ellos el senador Bernie Sanders, demócrata por Vermont. El miércoles, Sanders reaccionó a la renuncia de Coxon con una publicación en X: “Las mismas personas que construyen esta tecnología admiten que podría amenazar el futuro de la humanidad”.
En las últimas semanas, nuevas demostraciones del poder de la IA llevaron a voces destacadas del sector a afirmar que cambiaron de posición sobre el riesgo existencial.
Seth Lazar, profesor de Filosofía en la Universidad Johns Hopkins, dijo que antes defendía priorizar los daños más inmediatos de la IA. Sostenía que el campo tal vez nunca crearía sistemas suficientemente poderosos como para provocar por sí solos daños a la civilización. Pero su confianza en esa visión se debilitó recientemente.
Primero aparecieron modelos de IA más capaces de “razonar” frente a los problemas, explicó Lazar, un desarrollo basado en las mismas técnicas de entrenamiento que Hubinger había advertido en su charla de 2022. Luego, hacia fines del año pasado, finalmente empezaron a funcionar los agentes de IA capaces de actuar en una computadora, y los investigadores comenzaron a hablar de una IA que podría construir versiones mejores de sí misma.
“En uno o dos años, o incluso antes, podríamos tener agentes de IA rebeldes que actúen de manera independiente” y provoquen estragos en la sociedad, afirmó Lazar.
Los riesgos significativos están “muy claramente dentro del horizonte tecnológico”, sostuvo, aunque añadió que la extinción todavía le parece un salto demasiado grande.
Más leídas de El Mundo
2El dramático incidente con un dron que sufrió el avión de Zelensky camino al funeral del rey Harald V
3El fotógrafo de la icónica imagen del “falling man” del 11 de Septiembre: “Nunca olvido el ruido del impacto de los cuerpos contra el suelo”
4Franc Molinos, vive en un camión hace siete años: “No pago alquiler, no pago luz y apenas gasto en agua”