Qué significa desacelerar el desarrollo de la IA como pide el director de Anthropic

Los principales líderes del sector de la inteligencia artificial (IA) no han dejado de advertir sobre las "amenazas existenciales" de esta tecnología.

Asistí a la primera cumbre mundial sobre seguridad de la IA, celebrada en Bletchley Park, en Inglaterra, en noviembre de 2023, donde el foco se centró en las amenazas más graves imaginables que plantean los modelos de IA más potentes.

Entonces muchos consideraban que esto era ciencia ficción y que las amenazas reales eran comparativamente mucho más mundanas, como la pérdida de empleos o el fraude en los exámenes.

Tres años después, esas mismas voces ya no parecen estar tan seguras.

Dario Amodei, director de la empresa Anthropic, instó el pasado sábado a ralentizar el ritmo de desarrollo de la IA. Los líderes de dos empresas rivales, Sam Altman, de OpenAI, y Elon Musk, se mostraron de acuerdo.

Por otro lado, el investigador de IA Jacob Coxon —que dejó Anthropic— declaró el domingo a la BBC que el personal encargado de desarrollar estos sistemas sentía un "miedo genuino" por el futuro de la humanidad.

Todos ellos conforman un coro de voces serias que abogan por una desaceleración. Sin embargo, aunque pueda parecer una solución rápida, no es para nada sencilla.

Es bien sabido que a Estados Unidos le preocupa profundamente perder frente a China la carrera por desarrollar la IA más potente.

El domingo, el presidente Donald Trump expuso claramente su postura: afirmó que Estados Unidos lleva ventaja sobre China en la carrera de la IA y declaró que "quien gane en IA será el vencedor".

China no se caracteriza precisamente por querer quedar en segundo lugar.

Todas las personas con las que hablo coinciden en que, aunque una empresa decida hacer una pausa, las demás no lo harán, por lo que esa empresa simplemente se quedará atrás.

Esto me recuerda al momento álgido de la campaña por el desarme nuclear: el problema, tanto entonces como ahora, era que nadie quería dar el primer paso.

También surge la cuestión de cómo se podría imponer semejante desaceleración.

¿Quién se encargaría de supervisarla? ¿Dependeríamos de que las empresas de IA fueran transparentes sobre lo que hacen y, lo que es más importante, sobre lo que deciden no hacer?

Eso exigiría un nivel de confianza enorme; algo que, podría decirse, el sector tecnológico nunca se ha ganado.

Aunque Amodei propuso en su publicación un plan de tres puntos —que incluía la supervisión independiente de los modelos de IA durante su desarrollo, así como regulaciones tanto sectoriales como globales— algunos observadores cuestionan cómo funcionaría esto en la práctica.

"Nadie ha dado una explicación sustancial de lo que significa 'desaceleración'", afirma Ed Zitron, director ejecutivo de EZ Primary Research.

"¿Colocar a un infiltrado de METR —donde se incorporó uno de los que dejaron Anthropic— en cada empresa de IA? ¿Una 'coordinación' democrática y global? Para mí, eso no significa nada", sentencia.

Zitron señaló que detener el entrenamiento de modelos de IA los dejaría vulnerables frente a sus rivales chinos.

"Puede que sus márgenes mejoren, pero sus productos quedarán congelados en el tiempo y serán replicados por laboratorios chinos. Quizás tengan que cambiar sus precios. Sinceramente, no sé cómo funciona todo esto", declara.

Agrega que "esto podría hacer estallar la burbuja pero, por ahora, tenemos muy poca información sobre lo que implica exactamente una desaceleración".

En Reino Unido hemos oído hablar de planes para desplegar esta tecnología a mayor escala dentro del NHS (Servicio Nacional de Salud) con el fin de mejorar la atención al paciente, así como del impulso muy necesario que la IA dio a la economía británica durante el verano.

Se nos anima a todos a utilizarla cada vez más en el trabajo, en la educación y en nuestra vida personal.

Esta industria es una pieza clave de la estrategia del país para fomentar el crecimiento económico.

"No hay plan B", me comentó un antiguo asesor gubernamental.

Así, ¿podría una desaceleración arruinar las perspectivas futuras en países como Reino Unido?

El sector de la IA está consumiendo enormes cantidades de dinero y recursos naturales y, hasta la fecha, no está generando ni de lejos los mismos ingresos.

Existen numerosos informes que sugieren que algunas de las empresas que han adoptado esta tecnología se sienten decepcionadas con ella.

Los economistas especulan ampliamente con la posibilidad de que no todos los gigantes actuales sobrevivan y de que se avecine una especie de "nivelación", o lo que es lo mismo, el estallido de una burbuja.

Sin embargo, aquellas empresas que logren perdurar podrían convertirse en las megacorporaciones más poderosas que el mundo haya conocido jamás, lo cual conlleva sus propios problemas.

La decisión de OpenAI de frenar su salida a bolsa podría interpretarse como un momento de revelación en el que asume su responsabilidad respecto a la seguridad pública.

Pero también podría ser la maniobra de una empresa que se ha dado cuenta de que tal vez no obtenga los lucrativos beneficios que necesita si su producto se percibe como algo letal.

"Uno de los mayores desafíos que enfrentamos actualmente es que nadie puede predecir con certeza cómo evolucionará esta tecnología", afirma Alexander Voica, de la empresa británica de IA Synthesia.

"Sabemos que estos sistemas son cada vez más potentes, pero desconocemos dónde y cómo se utilizarán, y aún no hemos encontrado la manera de aprovechar plenamente su potencial. Lo único que me preocupa de que nos apresuremos a regular ahora, cuando todavía hay muchas incógnitas, es que la medida pueda resultar contraproducente", alega.

Tampoco podemos negar que, en la base de toda esta revolución tecnológica, existe un enorme caudal de capital procedente de inversores.

"No me preocupan los riesgos existenciales de la IA; me preocupa la codicia corporativa de las empresas que la están creando", afirma Sasha Luccioni, fundadora de Sustainable AI Group.

La destacada científica informática y profesora Wendy Hall, que ha asesorado a la ONU sobre IA, sostiene que la crisis actual se debe a que las empresas no están actuando con la responsabilidad debida.

Compara la situación con la de un ganadero cuyo toro se escapa del cercado y causa destrozos: el ganadero acaba culpando al animal.

"Por supuesto, la culpa no es del toro, sino del ganadero", señala.

Es evidente que las vallas no eran lo suficientemente resistentes; eso es, precisamente, lo que ella afirma que está ocurriendo ahora con los mecanismos de control y seguridad de la IA.

Pero, si dichas medidas de control se vuelven excesivamente restrictivas, ¿podría significar el fin de la IA?

Hay quienes creen que existe un impulso más oculto, de trasfondo político, para imponer restricciones normativas estrictas con el objetivo de "regular la IA hasta hacerla desaparecer", tal como expresó esta semana en X Parker Thayer, investigador del Capital Research Centre, un centro de estudios de tendencia conservadora.

Su publicación acumuló casi ocho millones de visualizaciones.

Aunque se trata de una postura extrema y no demostrada, pone de manifiesto que no todo el mundo comparte la idea de que la regulación sea la solución definitiva.

Sea cual sea la realidad, la tormenta que sacude actualmente al sector de la IA ya podría haber causado un daño irreparable a la reputación de las empresas que hoy ocupan una posición de liderazgo.

Como plantea la profesora Hall: "¿Invertiría usted en una empresa que afirma que va a provocar la extinción de la humanidad?".

Con información adicional de Tom McArthur.

• . Elige BBC News Mundo y recibe alertas de noticias, documentales y análisis, todo en un solo lugar. Importante: la nueva aplicación no está disponible en Reino Unido ni Estados Unidos.
• .
• para recibir cada viernes una selección especial de nuestro mejor contenido.

BBC Mundo

---

---

Conforme a