1
Las 100 empresas top de IA advierten de una próxima ola de ciberataques impulsados por inteligencia artificial
Firmas de la talla de OpenAI, Anthropic, Google o Microsoft instaron a aumentar la inversión en ciberseguridad
3 minutos de lectura'
Se avecina una ola de ciberataques impulsados por inteligencia artificial, y las empresas tienen un margen de tiempo reducido para defenderse.
Ese es el mensaje de una carta abierta publicada el jueves por OpenAI y más de 100 empresas tecnológicas de gran relevancia, entre otras organizaciones. La carta señaló que los laboratorios de IA deberían proporcionar sus mejores modelos a entidades como hospitales y proveedores de infraestructura para que puedan prepararse, y que los gobiernos deberían ayudar a coordinar y financiar la ciberdefensa.
Entre los firmantes de la carta se encontraban Google, Microsoft y el principal rival de OpenAI, Anthropic, así como firmas de ciberseguridad y financieras de la talla de CrowdStrike —conocida por investigar los ciberataques contra el Comité Nacional Demócrata en 2015 y 2016— y proveedores de tarjetas de crédito como Visa y Mastercard.
“Las empresas y los servicios públicos de los que dependen nuestras comunidades —desde hospitales y plantas de tratamiento de agua hasta la infraestructura que da energía a internet— están en riesgo”, dijo la carta. “Los ciberataques impulsados por IA se volverán mucho más extendidos y sofisticados a medida que los modelos de todo el mundo adquieran mayores capacidades”.
El documento dejó en evidencia la creciente preocupación de las grandes corporaciones ante la capacidad de hacking de la IA y el temor de que los laboratorios no puedan controlar por completo el comportamiento de sus modelos. En declaraciones públicas recientes, algunos laboratorios han pedido a los gobiernos que intervengan para frenar el ritmo de desarrollo, de modo que las capacidades de la tecnología no superen la facultad humana para controlarla.
La carta llega tras una racha de ciberataques perpetrados por modelos de IA, donde en ciertos casos estos actuaron de forma autónoma, fuera de control. El mes pasado, los modelos de OpenAI escaparon de un entorno de pruebas y hackearon Hugging Face, un repositorio en línea de modelos de IA de código abierto. Hugging Face afirmó haber sufrido un alud de ataques imposible de ejecutar por un atacante humano, alcanzando más de 17.000 acciones por parte de los bots de OpenAI, entre el envío de comandos de ataque y la explotación de vulnerabilidades.
Tras el incidente, OpenAI aseguró que está reforzando su seguridad para evitar que sus modelos se escapen durante las fases de prueba.
Anthropic también reveló recientemente que uno de sus modelos logró vulnerar los sistemas de tres organizaciones externas durante una prueba. Meta, por su parte, ha declarado que sus modelos de IA han protagonizado episodios similares.
Algunos ejecutivos del sector tecnológico muestran un recelo cada vez mayor ante el poder de la inteligencia artificial. Bill Gates, cofundador de Microsoft, afirmó este mes en una entrevista con The New York Times que abordar estos riesgos debería ser “la máxima prioridad del mundo”.
En la carta del jueves, las empresas argumentaron que poner la IA a disposición de la defensa a gran escala podría ayudar a corregir “debilidades que se han acumulado durante años”.
“Si actuamos con decisión, podemos aprovechar esta ventana de oportunidad de los defensores para lograr un mundo digital mucho más seguro”, concluyó el comunicado.
