California cambia las reglas para auditar la inteligencia artificial: las dos nuevas leyes firmadas por Newsom

La inteligencia artificial avanza y California dio un nuevo paso con la aprobación de dos leyes que modifican el esquema de supervisión de estas tecnologías y establecen mecanismos para evaluar su funcionamiento. Ambas fueron firmadas por el gobernador, Gavin Newsom.

Newsom firmó dos proyectos de ley destinados a reforzar las medidas de seguridad, transparencia y responsabilidad aplicadas a la inteligencia artificial en el estado. Se trata de la SB 813 y la AB 1405.

Según el comunicado de prensa de la oficina del gobernador, ambas normas crean estándares considerados pioneros a nivel nacional para las auditorías realizadas por terceros y para las evaluaciones independientes de sistemas de IA.

El objetivo es aumentar la transparencia y establecer mayores mecanismos de rendición de cuentas a medida que esta tecnología adquiere una presencia cada vez más importante en distintos ámbitos de la economía y de la vida pública.

La decisión llega en un momento en el que el desarrollo de la IA genera expectativas por sus posibles beneficios, pero también preocupaciones crecientes por los riesgos asociados a sistemas cada vez más avanzados. El gobierno estatal sostiene que los últimos incidentes vinculados con estas herramientas refuerzan la necesidad de contar con controles.

La primera de las nuevas normas es la SB 813, impulsada por el senador Jerry McNerney, demócrata de Pleasanton. Esta legislación establece un marco estatal para organizaciones de verificación independientes que podrán evaluar sistemas y modelos de inteligencia artificial con el propósito de determinar si cumplen con las leyes de California.

El mecanismo apunta a introducir una instancia externa de revisión. En lugar de que las propias compañías sean las únicas responsables de evaluar sus productos, las organizaciones independientes podrán analizar los sistemas y comprobar determinados aspectos relacionados con su cumplimiento de las normas estatales.

El segundo proyecto firmado por Newsom es la AB 1405, presentada por la asambleísta Rebecca Bauer-Kahan, demócrata de Orinda. Esta ley crea un registro estatal para los auditores de inteligencia artificial y fija estándares vinculados con su independencia, transparencia e integridad.

Mientras una ley crea el marco para las organizaciones encargadas de realizar verificaciones independientes, la otra establece un registro y criterios destinados a determinar cómo deben funcionar los auditores que participen de este proceso en California.

El senador McNerney defendió la aprobación del SB 813 y sostuvo que los sistemas de IA pueden aportar beneficios importantes, pero también representar riesgos cuando no existen límites efectivos.

“La IA tiene el potencial de mejorar nuestras vidas, pero sin barreras de protección efectivas, plantea riesgos. Justo esta semana supimos que los sistemas de IA más poderosos representan amenazas reales para la humanidad”, afirmó McNerney.

La asambleísta Bauer-Kahan, autora del AB 1405, también destacó la necesidad de que las evaluaciones no dependan exclusivamente de las empresas que desarrollan los sistemas.

“No podemos esperar que la industria simplemente se ponga una calificación a sí misma. Los auditores externos son esenciales para garantizar que la IA sea segura para nuestras comunidades y nuestra infraestructura crítica”, afirmó.