Un estado de EE.UU. investiga a OpenAI por un hackeo autónomo
La empresa creadora de ChatGPT, OpenAI, enfrenta una investigación del estado de Alabama después de que la compañía estadounidense revelara el mes pasado que sus modelos se descontrolaron y hackearon una;
La empresa creadora de ChatGPT, OpenAI, enfrenta una investigación del estado de Alabama después de que la compañía estadounidense revelara el mes pasado que sus modelos se descontrolaron y hackearon una plataforma de inteligencia artificial de forma autónoma.
Dos modelos de OpenAI escaparon en julio de su entorno de pruebas confinado y obtuvieron acceso a internet; después atacaron Hugging Face, un sitio que los desarrolladores de inteligencia artificial (IA) utilizan para almacenar y compartir modelos y conjuntos de datos.
El incidente despertó alarma sobre los peligros de que los sistemas de IA actúen por cuenta propia y vulneren las barreras establecidas por programadores humanos para evitar violaciones a la seguridad.
En una orden de 14 páginas, la oficina del fiscal general de Alabama, Steve Marshall, exigió que OpenAI entregara registros internos sobre el incidente de julio.
También solicitó una extensa lista de otros materiales, incluida la identidad de todos los empleados implicados en la intrusión o en las pruebas que condujeron a ella.
Se trata de la primera investigación estatal conocida que indaga si un sistema de IA que ataca la infraestructura de otra empresa vulnera la ley de protección al consumidor, una conclusión que expondría a la compañía a importantes litigios en todo Estados Unidos.
Alabama y otros 14 estados escribieron el 3 de agosto al director ejecutivo de OpenAI, Sam Altman, para pedir a la empresa que preservara los registros sobre el incidente y detuviera cualquier evaluación interna de ciberseguridad de sus modelos.
Un portavoz de la oficina del fiscal general de Alabama no confirmó si OpenAI aceptó cumplir con esa exigencia.
La compañía afirmó en un comunicado al sitio de noticias tecnológicas TechCrunch que estaba "realizando una revisión exhaustiva junto con asesores externos".
"Una vez que concluya la revisión, compartiremos un informe técnico con las autoridades gubernamentales competentes y publicaremos nuestros hallazgos públicamente", añadió.
