Las razones de las empresas de Silicon Valley para ignorar las advertencias sobre los peligros de la IA

Cada septiembre, una selecta lista de ejecutivos de todo Silicon Valley se da cita en el Palace Hotel de San Francisco para intentar impresionar a los inversores en una conferencia organizada por el banco Goldman Sachs.

Esta última semana, entre debates sobre el crecimiento y los posibles beneficios de la inteligencia artificial (IA), los gigantes tecnológicos se han visto obligados a abordar la repentina renuncia de Jacob Coxon, investigador de Anthropic.

Coxon, de 27 años y que trabajó en OpenAI antes de unirse a su principal rival, aseguró el martes que quienes desarrollan la IA creen que esta tecnología podría destruir a la humanidad.

"Están jugando con nuestras vidas", dijo.

"Pronto los sistemas sobrehumanos serán capaces de piratear cualquier cosa", alertó.

Coxon no es, ni mucho menos, el primer experto en IA en dar la voz de alarma públicamente. En los últimos años se han producido varias dimisiones de alto perfil tanto en Anthropic como en OpenAI por aparentes problemas de seguridad, e incluso algunos empleados actuales de Anthropic se hicieron eco de la publicación de Coxon.

"¡Realmente creemos que la IA podría acabar con todos los humanos! Personalmente, creo que sucederá en más del 10% de los casos en la próxima década", publicó Evan Hubinger, líder de un equipo de Anthropic, en X.

Aunque Coxon afirmó explícitamente que sus advertencias "no eran marketing", algunos ejecutivos e inversores de Silicon Valley han reaccionado con escepticismo ante la reciente oleada de personas con información privilegiada que han dado la voz de alarma.

Según se informa, Anthropic y OpenAI se están preparando para ofertas públicas iniciales que podrían batir récords, y algunos en el sector tecnológico han sugerido que los últimos comentarios sobre los peligros de la IA podrían estar diseñados para influir en los mercados al señalar el poder de estos productos.

El director de Anthropic, Dario Amodei, ha sido objeto de críticas por afirmar que la IA podría eliminar la mitad de los puestos de trabajo de nivel básico para empleados de oficina y que "pondrá a prueba quiénes somos como especie".

Uno de los ponentes de la conferencia, George Arison, director ejecutivo de Grindr, declaró a la BBC que, en su opinión, los comentarios de Coxon y otros esta semana eran indicativos de una "visión del mundo anticivilizatoria en Anthropic".

Tras calificarlos de "peligrosos", el directivo dijo que dichas opiniones le habían llevado a dar instrucciones a algunos ingenieros de la aplicación de citas LGBTQ+ para que dejaran de usar la tecnología de Anthropic.

"Es irresponsable por nuestra parte, como administradores del dinero de nuestros accionistas, confiar en una empresa que hace lo que hace esta compañía, en lo que respecta a sus declaraciones públicas", explicó.

"Tal vez realmente lo crean", dijo Arison.

"O se podría argumentar que lo dicen porque es una excelente manera de conseguir más apoyo de los inversores, ya que la única forma de justificar estas valoraciones es afirmar: 'Voy a dominar todas las industrias y voy a ocupar todos los puestos de trabajo, y mi IA se encargará de todo ese trabajo'", agregó.

Anthropic fue valorada en US$965.000 millones en su ronda de financiación más reciente, a principios de este año.

La BBC ha solicitado a Anthropic una respuesta a dichas declaraciones.

En un ensayo publicado a primera hora del sábado, Amodei pidió que se ralentizara el desarrollo de modelos de IA y una regulación global del sector, alegando que los riesgos asociados a la IA eran "graves".

El director ejecutivo de Nvidia, Jensen Huang, también habló sobre los comentarios de Coxon ante el público en la conferencia, según informaron varias personas presentes a la BBC. Según los testigos, Huang desestimó las alertas por considerarlas falsas.

Huang ya había dicho anteriormente que la idea de que la IA "va a ser el fin de la humanidad" es "una completa tontería".

Y si bien puede tener un interés comercial en el auge de la IA (Nvidia fabrica los chips que impulsan los sistemas de IA), sus comentarios reflejan una creciente reacción en Silicon Valley ante las advertencias existenciales de empleados actuales y antiguos.

Algunos críticos incluso han acusado a Anthropic de sembrar el pánico con la esperanza de que esto desencadene una presión regulatoria que podría eliminar la competencia y dejar a Anthropic y a OpenAI con un duopolio en el sector.

Brad Gerstner, director de la firma de inversión Altimeter Capital, publicó fotos de Huang en la conferencia y acusó a Coxon de "hipérbole ridícula".

El viernes, Clement Delangue, director ejecutivo de la plataforma de IA Hugging Face, dio su opinión al respecto. Hugging Face, cuya adquisición por parte de Nvidia anunció la semana pasada, fue hackeada por agentes de OpenAI a principios de este año, lo que provocó una gran controversia sobre la seguridad de la IA.

"Lo siento, pero preguntarle a Jacob sobre el riesgo de extinción por culpa de la IA es como preguntarle a tu técnico de aire acondicionado sobre el cambio climático", escribió en X.

"No digo que sea necesariamente poco interesante o incorrecto en sí mismo, pero pongamos las cosas en perspectiva", agregó.

Tanto Gerstner como Delangue se mostraron más cautos el sábado tras la publicación de la propuesta de Amodei, y Gerstner calificó la idea como "un importante paso adelante" para equilibrar consideraciones contrapuestas como la velocidad y la seguridad.

Por su parte, Delangue se ofreció a colaborar para formar parte de las posibles soluciones propuestas por Amodei.

En abril, Anthropic revolucionó el mundo de la IA al anunciar que había descubierto que su herramienta Mythos podía superar a los humanos en algunas tareas de piratería informática y ciberseguridad.

Mythos también demostró la capacidad de escapar de forma independiente de lo que se conoce como el entorno de pruebas controlado (sandbox), lo que desató un debate entre reguladores, legisladores y empresas sobre los peligros potenciales de la IA.

En una novedad anunciada el jueves, Anthropic informó que había detectado y neutralizado a agentes maliciosos que intentaban utilizar su tecnología de IA para actividades como el desarrollo de armas biológicas y el ciberespionaje.

Bajo las relucientes lámparas de araña que cuelgan en el atrio con cúpula de vidrieras del Hotel Palace, algunos inversores declararon a la BBC que los comentarios de Coxon y otros podrían acelerar restricciones gubernamentales.

Un proyecto de legislación federal copatrocinada por el senador demócrata Bernie Sanders (Vermont), conocida como la Ley para Prohibir la Superinteligencia Artificial, propone imponer una pausa temporal en el desarrollo de la IA avanzada.

"Hay muchas probabilidades de que los seres humanos pierdan el control sobre la IA", declaró Sanders el jueves en el programa Newsnight de la BBC.

"Y qué ocurrirá entonces, nadie lo sabe. ¿Pero podría ser catastrófico? Sí, podría serlo", sostuvo.

"Cuando los científicos te dicen que existe la posibilidad de que tenga un impacto catastrófico en la humanidad, hay que ser un idiota para no decir: 'Hay que frenarlo'", aseveró.

Sin embargo, si se produce una regulación gubernamental generalizada en el sector, es probable que la lideren los legisladores y no la administración de Donald Trump, que apoya en gran medida una política de desarrollo de IA sin restricciones.

El gobierno ha justificado esto como necesario para garantizar que Estados Unidos no ceda su dominio a China.

En declaraciones a la prensa esta semana, se le preguntó al presidente Trump si le preocupaba que la IA pudiera provocar la extinción humana.

"No, no me preocupa en absoluto", respondió.

"Me preocupa que, si no ganamos en el campo de la IA, nos encontraremos en una situación muy difícil. Ahora mismo vamos por delante de China", zanjó.

La relación del presidente con Anthropic ha sido turbulenta. Después de que la empresa se negara a permitir que el ejército estadounidense utilizara sus modelos de IA, la Casa Blanca la describió como "una empresa radical de izquierda y progresista" y la designó como un riesgo para la cadena de suministro, una medida que un juez federal dictaminó que era ilegal.

David Sacks, el responsable de la inteligencia artificial de Trump en los primeros días de su administración, también ha lanzado repetidos ataques contra Anthropic.

OpenAI no ha soportado el mismo nivel de escrutinio por parte de la Casa Blanca. Al presentar un nuevo modelo llamado Astra la semana pasada, el presidente de OpenAI, Greg Brockman, describió la relación de su empresa con la administración Trump como "una muy buena colaboración".

OpenAI, que anunció en junio su salida a bolsa, estaba valorada recientemente en 852.000 millones de dólares.

La empresa no respondió a la solicitud de comentarios de la BBC.

En la conferencia celebrada esta semana en San Francisco, la búsqueda de fortuna pareció prevalecer sobre cualquier preocupación existencial o temor ante posibles restricciones gubernamentales.

Un inversor dijo que esperaba con interés el próximo formulario S-1 de Anthropic, un documento que una empresa debe presentar ante los reguladores de valores para poder vender acciones.

Su principal pregunta sobre la empresa era sencilla: ¿es rentable?

Cuando se le preguntó el jueves si temía que el mundo pudiera estar llegando a su fin, Sid Sheth, director ejecutivo de la empresa de chips d-Matrix, que firmó un acuerdo con Nvidia en la conferencia de ese día, no se anduvo con rodeos.

-No- respondió.

Este artículo fue escrito originalmente en inglés y usamos una herramienta de inteligencia artificial para traducirlo. Un periodista de la BBC revisó el texto antes de su publicación. Más información sobre cómo usamos IA.

• Elige BBC News Mundo y recibe alertas de noticias, documentales y análisis, todo en un solo lugar. Importante: la nueva aplicación no está disponible en Reino Unido ni Estados Unidos.
• .
• para recibir cada viernes una selección especial de nuestro mejor contenido.

BBC Mundo

---

---

Conforme a