1
La IA de Google, Gemini, hackeó a tres empresas durante una prueba de ciberseguridad
Encontró información pública online y adivinó las credenciales para acceder a sitios web que creía que formaban parte del test
4 minutos de lectura'
LA NACION
El modelo de inteligencia artificial de Google, Gemini, hackeó los sistemas de tres empresas durante una prueba de sus capacidades de ciberseguridad. Es la primera vez que se reporta este tipo de problema en el modelo de la compañía. El hackeo ocurre meses después de diversos incidentes de ciberseguridad similares que involucraron a OpenAI y Anthropic, dos de las principales empresas de modelos de IA.
La responsable de seguridad de Google, Heather Adkins, informó que Gemini encontró “información pública online y adivinó las credenciales para acceder a sitios web que creía que formaban parte de la prueba”. Señaló que en cada caso el modelo “se detuvo”.
Sin precisar nombres, Google indicó que tres organizaciones se vieron afectadas y aseguró que fueron informadas de las filtraciones de datos. En uno de los casos el modelo probó varias combinaciones de contraseñas hasta que consiguió acceder al sistema protegido.
Los ataques se produjeron en mayo durante una prueba realizada por Irregular, una empresa independiente que lleva adelante evaluaciones de ciberseguridad, informó la BBC. La compañía informó a Google y a todas las entidades afectadas en julio.
“Irregular tomó medidas inmediatas y todos los problemas conocidos por nuestra parte fueron subsanados y resueltos hace semanas”, detallaron a la BBC. Tras ello, Google abrió una investigación.
“Nos aseguramos de que las tres entidades estuvieran al tanto y trabajamos con nuestro socio de capacitación en los cambios que han implementado en sus procesos de prueba. Estos acontecimientos ponen de relieve la importancia de entrenar modelos de IA potentes para que actúen de forma responsable”, sostuvo Adkins a la cadena británica.
El incidente ocurre pocos después de que los ejecutivos de los gigantes de la IA pidieran ralentizar el desarrollo de sus modelos para autorregular el sector ante recientes incidentes de seguridad.
En julio se conoció que dos modelos de inteligencia artificial de OpenAI salieron, por iniciativa propia, del entorno confinado en el que estaban siendo probados para atacar el sitio Hugging Face, una biblioteca de IA. La empresa de Sam Altman solo fue consciente del incidente después de que terminara, y Hugging Face logró contener la intrusión gracias a un modelo chino.
Luego, se reveló que agentes de IA renegados habían secuestrado cuentas de usuarios de Hugging Face y sondeado el propio sitio en busca de vulnerabilidades desde mayo, es decir, casi dos meses antes de que se conociera la brecha de julio en el repositorio de código abierto.
Anthropic, la empresa de Dario Amodei, reveló que sufrió un hackeo similar al de OpenAI y que su IA atacó a varias plataformas. Anthropic evaluó más de 141.000 “operaciones de prueba” y descubrió que tres versiones diferentes de su modelo, conocido como Claude, accedieron indebidamente a sistemas de tres organizaciones no identificadas.
La compañía señaló que se trató de “un malentendido” entre ellos y su “socio de evaluación”, Irregular, ahora también protagonista del incidente de Gemini. Claude utilizó “técnicas básicas, como explotar contraseñas débiles y puntos de conexión sin autenticación”.
Tras los incidentes, los gigantes a cargo de estos modelos dijeron públicamente que había que frenar el desarrollo de los modelos más avanzados de sus compañías. Amodei, de Anthropic, fue el primero en proponerlo en una entrada de blog. Lo siguieron Sam Altman, el director general de SpaceX, Elon Musk, y el presidente de Google DeepMind, Demis Hassabis.
Ante ello, el pasado viernes se presentó una demanda contra Anthropic, OpenAI, SpaceXAI y Google donde se los acusó de realizar un acuerdo ilegal para ralentizar el ritmo de sus modelos.
La demanda, que se presentó el viernes en el Tribunal Federal de Distrito para el Distrito Norte de California, argumentó que las principales empresas de IA violaron las leyes antimonopolio cuando acordaron coordinar esfuerzos para desacelerar, y que hacerlo reduciría el valor que los consumidores obtienen por sus suscripciones pagadas de IA.
Hay cuatro demandantes identificados que pagan suscripciones a ChatGPT, Claude, Grok o Gemini y que presentaron la demanda en nombre de una propuesta demanda colectiva a nivel nacional de otros suscriptores de pago de esos servicios.
Los demandantes sostuvieron que dicha coordinación ocurrió el 12 de septiembre, cuando Amodei publicó el ensayo en donde instaba a una cooperación en toda la industria para desacelerar los avances y reforzar las medidas de seguridad.
Con información de AFP y AP
LA NACION
Más leídas de El Mundo
2Una estudiante de 12 años fue atacada por un enjambre de abejas en Brasil: sufrió múltiples picaduras y quedó en shock
3Trump vetó a CNN y otros dos medios estadounidenses de la Casa Blanca por “difundir noticias falsas”
4Jonathan Andic viajó a Quito para impulsar un libro de su terapeuta sobre las “siete cronologías”