1
Anthropic busca US$100.000 millones para su IA, que podría plantear riesgos “catastróficos o existenciales para la humanidad”
Los creadores de Claude explican en el folleto de salida a Bolsa que “el cambio climático podría afectar a su estructura de costes”
6 minutos de lectura'
A veces las salidas a Bolsa son como ir al confesionario. Las empresas están obligadas a explicar los riesgos a los que se enfrentan en el folleto de la operación para que los inversores sepan a qué se enfrentan antes de invertir. Anthropic, uno de los laboratorios de inteligencia artificial pioneros en el mundo, aspira a protagonizar uno de los mayores estrenos bursátiles de la historia. En su striptease corporativo admite que “los sistemas de IA suficientemente avanzados podrían plantear riesgos catastróficos o existenciales para la humanidad, si dichos sistemas fueran objeto de un uso indebido, replicados, convertidos en armas o si se les permitiera operar con un alto grado de autonomía”.
Las amenazas que entrañan los modelos más avanzados de IA son una de las mayores preocupaciones de nuestro tiempo. Una docena de extrabajadores y directivos de las grandes compañías del sector han advertido sobre los peligros de los sistemas de IA. La voz de alarma, sin embargo, saltó hace unas semanas cuando un joven exempleado de Anthropic llamado Jacob Coxon abandonó la compañía advirtiendo de que la IA “puede matarnos antes de 2030″. Los directivos de los principales laboratorios de IA, en lugar de desacreditar al catastrofista ingeniero, admitieron que tenía razón. Unos días después, Dario Amodei, el fundador y consejero delegado de Anthropic, pidió a la industria que ralentizara el ritmo de desarrollo de los modelos ante los riesgos que presenta la gran velocidad actual.
El folleto de salida a Bolsa del creador de Claude recoge esos riesgos. “Los modelos de IA avanzados plantean nuevos riesgos éticos y de seguridad, tales como aquellos relacionados con la autonomía, la manipulación y la simulación de aspectos de la psicología humana”, admite la empresa, que reclama a las autoridades reformas para regular el sector. “Los modelos han mostrado comportamientos estratégicos o de autopreservación inesperados; esto abarca intentos de resistirse a su desactivación, ocultar o manipular información, o generar respuestas que podrían interpretarse como coercitivas, engañosas o manipuladoras, incluyendo conductas que recuerdan al chantaje o esfuerzos por influir en los seres humanos que toman decisiones, con el fin de preservar su propio funcionamiento o acceso”, señala la empresa, entonando un mea culpa preventivo ante la cantidad de casos en los que los modelos de IA ya han actuado por su cuenta para vulnerar sistemas tecnológicos gubernamentales y privados. De hecho, OpenAI y Anthropic investigan decenas de miles de ataques de agentes descontrolados de IA como el ataque al sistema de salud australiano o a algunas páginas web del Gobierno estadounidense.
“Si bien los beneficios potenciales de la IA son extraordinarios, su rápido avance repercutirá en la economía y la sociedad de formas que podrían generar una disrupción significativa, especialmente si la tecnología no se desarrolla ni se implementa de manera responsable”, advierte la compañía fundada por un grupo de extrabajadores descontentos de OpenAI por el enfoque agresivo de Sam Altman. “Por ejemplo, actores malintencionados ya han llevado a cabo ciberataques de gran repercusión aprovechando las capacidades de la IA para detectar vulnerabilidades, generar software malicioso y eludir las herramientas de detección; otros riesgos vinculados a su uso indebido, incluso en el ámbito de la biología, podrían derivar en daños aún mayores”, avisan.
Concentración de poder y riqueza
También explican que la tecnología avanzada “tiene el potencial de concentrar el poder y la riqueza, tanto dentro de los países como entre ellos, lo cual podría erosionar la confianza, perjudicar a la sociedad y desestabilizar el orden geopolítico”. Para ello, vuelven a insistir a las autoridades mundiales para que diseñen un marco regulatorio para imponer límites a las empresas de IA.
El presidente de Estados Unidos, Donald Trump, se reunió hace unas semanas con los principales ejecutivos de la industria, cuyos nombres son ya tan conocidos como el de las estrellas del rock & roll. El mandatario estadounidense aseguró que no quería regular la IA y pidió a las propias compañías, que están pidiendo ayuda para ralentizar los avances para reforzar la seguridad de sus modelos, que se autorregulen.
El peligro del cambio climático
Desde otra perspectiva, Anthropic también ha alertado sobre el impacto del cambio climático en su negocio. Es uno de los riesgos que reconoce a los inversores en el folleto de salida a Bolsa debido a la enorme cantidad de electricidad, agua e infraestructuras que necesitan los centros de datos, esenciales para la industria. “Los efectos físicos del cambio climático pueden aumentar nuestros costes operativos a lo largo del tiempo, como pueden hacer temperaturas medias más altas aumentar el consumo de energía y el consumo de agua necesarios para enfriar equipos en las instalaciones de las que dependemos”, enfatizó la compañía.
La rápida proliferación de los centros de datos ha ocasionado movimientos de protesta social, que alertan del excesivo consumo de recursos. “El desarrollo de centros de datos ha provocado controversia pública y el escrutinio regulatorio respecto al impacto medioambiental, suelo y el uso del agua y la asignación de recursos energéticos limitados”, reconoció el grupo de Amodei. La polémica de los centros de datos recorre la política estadounidense. A una semana para las midterms, es uno de los asuntos que más controversia ha suscitado, con una creciente oposición social y política. Igual ocurre en otras latitudes donde grupos políticos y comunidades rechazan la instalación de estas infraestructuras.
La confesión de Anthropic sobre los riesgos del cambio climático y la necesidad de alto consumo de recursos naturales en su folleto de salida a bolsa contrasta con la de SpaceX, sin mención alguna al cambio climático, según recuerda Bloomberg.
Además de estos riesgos, el laboratorio, que aspira a obtener una recaudación de cerca de 100.000 millones en su salida a Bolsa, con una valoración total de la empresa que se situaría entre 1,5 y dos billones de dólares, también cita la necesidad de mantener al equipo directivo y los ingenieros en un mercado supercompetitivo o alcanzar los mejores acuerdos para que los proveedores de tecnología, como Nvidia, les faciliten los procesadores de última generación.
“El rápido ritmo de los cambios tecnológicos en la infraestructura de IA, el hardware, el software, las arquitecturas de sistemas y las técnicas de desarrollo de modelos implican que los recursos de computación adquiridos hoy podrían volverse menos eficientes o menos atractivos desde el punto de vista económico en comparación con futuras alternativas”, remarca en el folleto de salida a Bolsa, al tiempo que avisa: “Podríamos vernos obligados a seguir utilizando hardware e infraestructura de una generación anterior mientras nuestros competidores acceden a sistemas más avanzados, o bien podríamos terminar pagando precios elevados por recursos cuyo valor de mercado ha disminuido”.
Por Jesús Sérvulo González
