Un gigante tecnológico acaba de frenar el lanzamiento de su nueva IA por ser demasiado “peligrosa”
Anthropic no publicará su modelo de inteligencia artificial más potente, Claude Mythos
3 minutos de lectura'
El gigante tecnológico Anthropic, que recientemente rompió relaciones con Trump -luego de haberle negado el permiso de utilización de su IA para “todo uso legal”, por lo que dejó de ser utilizada por el Departamento de Defensa de EE. UU.-, acaba de frenar el lanzamiento de Claude Mythos, su modelo de IA más potente.
Según informó el medio Euro News, Anthropic señaló en una ficha técnica del modelo publicada el martes pasado que “el gran salto de capacidades de Claude Mythos Preview nos ha llevado a decidir que no lo pondremos a disposición del público en general". Además, agregan más adelante: “En su lugar, lo estamos utilizando como parte de un programa defensivo de ciberseguridad con un grupo limitado de socios".
El mismo medio europeo explica que la nueva herramienta resulta demasiado eficaz a la hora de detectar vulnerabilidades de alta gravedad, es decir, posibles debilidades en los principales sistemas operativos y navegadores web. Además, detallaron que la noticia generó efectos en la Bolsa, que registró caídas en las empresas de ciberseguridad.
¿Por qué es peligrosa la nueva IA?
Anthropic detalló en un comunicado que la evolución de los modelos de IA alcanzaron un nivel de capacidad de programación que les permite superar a todos, excepto a los humanos más expertos, en la detección y explotación de vulnerabilidades de software. En ese contexto, explican que Mythos Preview ya ha detectado miles de vulnerabilidades de alta gravedad, incluyendo algunas en todos los principales sistemas operativos y navegadores web, y señalan que es inminente que “estas capacidades se extiendan, posiblemente más allá de los actores comprometidos con su implementación segura. Las consecuencias —para la economía, la seguridad pública y la seguridad nacional— podrían ser graves”.
La compañía indicó algunos hallazgos preocupantes, entre ellos, su habilidad para saltarse las limitaciones de seguridad, red o sistema de archivos impuestas al modelo. “En un esfuerzo inquietante y no solicitado por demostrar su éxito, publicó detalles sobre su exploit en varias páginas web difíciles de encontrar, pero técnicamente accesibles al público”, citó a Anthropic Euro News.
En ese contexto, crearon el proyecto Glasswing, una iniciativa que reúne a Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Linux Foundation, Microsoft, NVIDIA y Palo Alto Networks en un esfuerzo por proteger el software más crítico del mundo. Estos socios utilizarán Mythos Preview en sus labores de seguridad defensiva: Anthropic compartirá sus aprendizajes, ampliando el acceso a más de 40 organizaciones que desarrollan o mantienen infraestructura de software crítica; de esta forma, podrán usar el modelo para analizar y proteger tanto sistemas propios como de código abierto. “Para que los ciberdefensores salgan victoriosos, debemos actuar ahora”, concluye el comunicado.
LA NACION
Más leídas de Tecnología
1Un abogado usó la IA en un juicio y presentó casos ficticios, pero el juez se negó a revocar el fallo
2Dos argentinos crearon Genio Contable, una IA que busca simplificar la liquidación de impuestos
3El futuro ya llegó: cómo las empresas argentinas están incorporando la IA en el corazón de sus negocios
4Queda infalible: así podés mejorar tu CV con la IA para que supere filtros ATS y se destaque antes los reclutadores
