Industria global de la IA no cumple con estándares de seguridad, advierte informe
El laboratorio estadounidense de inteligencia artificial (IA) Anthropic obtuvo la puntuación más alta en una clasificación semestral de seguridad, pero a nivel global la industria no logra combatir las amenazas "existenciales"
El laboratorio estadounidense de inteligencia artificial (IA) Anthropic obtuvo la puntuación más alta en una clasificación semestral de seguridad, pero a nivel global la industria no logra combatir las amenazas "existenciales", según un informe publicado el martes.
El think tank estadounidense de seguridad en IA Future of Life Institute clasificó a nueve de las principales empresas de IA del mundo y determinó la clasificación basándose en datos públicos e información proporcionada por las empresas.
Las nueve empresas están fallando en cuanto a combatir amenazas "existenciales", como el desarrollo de modelos que alcancen un nivel de inteligencia similar al humano, conocidos como "inteligencia artificial general" o AGI, agrega el informe.
Se evaluaron los esfuerzos en seis categorías distintas: evaluación de riesgos, daños actuales, marcos de seguridad, seguridad existencial, gobernanza y rendición de cuentas, así como intercambio de información.
Ninguna empresa recibió una "A", la nota más alta, en ninguna categoría, mientras que Anthropic obtuvo la mejor nota global, un "C+".
El informe señala que varias empresas que antes prohibían el uso militar de su tecnología han "ido revirtiendo gradualmente el rumbo", entre ellas Anthropic, a la que criticó por mantener "compromisos militares cuestionables".
El gobierno estadounidense utilizó la tecnología de Anthropic en operaciones militares en Venezuela e Irán durante el último año, según diversos reportes de prensa, aunque la empresa estuvo sujeta recientemente a una prohibición del Pentágono por desacuerdos sobre la seguridad de la IA.
Aunque "existen intentos constructivos", los esfuerzos en su conjunto son "totalmente insuficientes".
Otros riesgos incluyen el posible uso indebido de un modelo para llevar a cabo un ciberataque o realizar tareas potencialmente dañinas para los seres humanos.
