Artificial Intelligence Act: la ley SB 53 que regula el uso de la IA y fue respaldada por Anthropic en California

California avanzó con una nueva etapa en la regulación de los sistemas de inteligencia artificial más avanzados. La ley SB 53, que recibió el respaldo de Anthropic, establece obligaciones para las empresas que desarrollan modelos capaces de generar riesgos considerados catastróficos, con énfasis en la transparencia, la evaluación de seguridad y la comunicación de incidentes.

La denominada Transparency in Frontier Artificial Intelligence Act, identificada como SB 53, está orientada a los denominados modelos de frontera, es decir, sistemas de IA entrenados a través de escalas extraordinariamente grandes de capacidad informática.

La norma ya está en vigor. Gavin Newsom la firmó el 29 de septiembre de 2025 y sus principales disposiciones entraron en vigor el 1° de enero de 2026.

De acuerdo con la información de Wharton University of Pennsylvania, la norma establece como referencia los modelos que requieren más de 10²⁶ operaciones de punto flotante (FLOPs) para su entrenamiento, lo que incluye la capacidad computacional acumulada utilizada durante procesos de ajuste y modificaciones posteriores.

El foco de la legislación está puesto en los desarrolladores que trabajan con los sistemas más avanzados y, dentro de ese universo, establece obligaciones adicionales para las compañías consideradas grandes desarrolladoras de modelos de frontera.

La definición utilizada contempla a aquellas entidades que entrenaron o iniciaron el entrenamiento de un modelo que supere el umbral establecido, mientras que una gran desarrolladora es aquella que supera los 500 millones de dólares de ingresos brutos anuales.

La razón detrás de esta distinción está vinculada con el tipo de riesgos que la legislación pretende prevenir. El concepto de “riesgo catastrófico” comprende situaciones previsibles en las que un sistema pueda provocar:

• La muerte o lesiones graves a 50 o más personas.
• Generar daños superiores a US$1000 millones.
• Facilitar asistencia de nivel experto para desarrollar o liberar armas químicas, biológicas, radiológicas o nucleares.
• Ejecutar de manera autónoma delitos graves o ciberataques.
• Escapar del control de sus desarrolladores o usuarios.

El respaldo de Anthropic a la SB 53 fue expresado en septiembre de 2025, después de que la compañía analizara las lecciones de un intento anterior de regulación en California.

La empresa explicó en un comunicado que durante mucho tiempo defendió la necesidad de una regulación responsable de la IA y que su apoyo a esta legislación surgió después de evaluar los detalles de la propuesta.

La compañía también señaló que, aunque considera que la seguridad de los sistemas más avanzados debería abordarse a nivel federal y no mediante un conjunto fragmentado de normas estatales, el desarrollo tecnológico no se detendrá mientras Washington desarrolla un consenso.

La empresa destacó además el trabajo de un grupo de académicos y expertos de la industria convocado por el gobernador Newsom, denominado Joint California Policy Working Group.

Según Anthropic, ese grupo recomendó un enfoque basado en el principio de “confiar, pero verificar”, una idea que la SB 53 incorpora mediante exigencias de divulgación y transparencia en lugar de imponer requisitos técnicos de manera prescriptiva.

La SB 53 establece distintas responsabilidades según el tipo de desarrollador y las características de los modelos que construya.

Entre las principales exigencias contempladas por la legislación se encuentran:

• Las grandes desarrolladoras de modelos de frontera deberán elaborar y publicar anualmente un marco de seguridad que explique cómo identifican, evalúan, mitigan y administran los riesgos catastróficos.
• Los desarrolladores deberán presentar informes públicos de transparencia antes de desplegar nuevos modelos de frontera o realizar modificaciones sustanciales en ellos.
• Los informes deberán incluir información sobre las capacidades de los modelos, sus usos previstos, sus limitaciones y los resultados de las evaluaciones de riesgos.
• Los incidentes críticos de seguridad deberán ser comunicados a la California Office of Emergency Services dentro de los 15 días posteriores a su descubrimiento, o dentro de las 24 horas cuando exista un peligro inminente.
• Las empresas deberán establecer mecanismos para que empleados y contratistas puedan comunicar preocupaciones de manera anónima.
• La normativa incorpora protecciones para denunciantes que informen sobre incumplimientos o riesgos importantes para la seguridad y la salud pública.
• Las compañías podrán enfrentar sanciones económicas cuando no cumplan los compromisos establecidos en sus propios marcos de seguridad.

En materia de transparencia, los informes también pueden incluir información sobre evaluaciones realizadas por terceros. La norma permite mantener determinadas reservas cuando estén involucrados secretos comerciales o información sensible desde el punto de vista de la seguridad.