Oficial y confirmado: las leyes en California que regulan el uso de la IA y la nueva herramienta aprobada por Newsom

El gobernador de California, Gavin Newsom, firmó dos leyes para establecer un marco regulatorio sobre el uso de la inteligencia artificial (IA) y fijar estándares sobre la independencia, transparencia e integridad de los auditores. Asimismo, presentó AskCA, una nueva herramienta estatal que utiliza la tecnología para ayudar a los californianos a acceder mejor a los servicios estatales y locales.

El miércoles 9 de septiembre, la Oficina del Gobernador anunció mediante un comunicado de prensa la firma de dos iniciativas: el Proyecto de Ley del Senado 813 (SB 813) y el Proyecto de Ley de la Asamblea 1405 (AB 1405). En conjunto, las disposiciones refuerzan las medidas de protección sobre la IA.

Según informó el gobierno estatal, la SB 813 establece un marco “pionero a nivel nacional” para organizaciones de verificación independientes que pueden evaluar sistemas y modelos de IA para comprobar su cumplimiento con la ley estatal.

El senador Jerry McNerney (demócrata por Pleasanton), patrocinador del proyecto, indicó al respecto: “Formaliza una de las principales recomendaciones del comité de expertos del gobernador sobre IA al establecer evaluaciones independientes de terceros sobre inteligencia artificial para garantizar que la tecnología siga siendo segura y beneficiosa”.

Por su parte, la AB 1405 crea un registro estatal para auditores de IA y establece estándares para su independencia, transparencia e integridad.

Respecto a esta medida, la asambleísta Rebecca Bauer-Kahan, autora de la AB 1405, apuntó que permitirá a los auditores identificar riesgos, verificar afirmaciones y exigir a los desarrolladores el cumplimiento de estándares significativos.

“Las inquietudes suscitadas por incidentes recientes refuerzan lo que California reconoce desde hace tiempo: la inteligencia artificial ofrece un potencial extraordinario, pero debe desarrollarse e implementarse con salvaguardias efectivas para proteger a la ciudadanía”, expresó el gobernador.

En otro comunicado de prensa, la Oficina del Gobernador presentó un nuevo asistente digital con inteligencia artificial. AskCA fue construido por la Oficina de Datos e Innovación para guiar a las personas a través de eventos cotidianos, como los siguientes:

• Encontrar trabajo.
• Emprender un negocio.
• Servicios familiares.
• Recuperación ante desastres.

Los californianos ya pueden inscribirse para participar en el programa piloto. Los participantes deben ser mayores de 18 años y residentes de California.

El programa comenzará en octubre y los participantes podrán chatear con la IA y calificar sus respuestas. También recibirán encuestas para compartir su experiencia con la herramienta. Las personas que deseen inscribirse deben contestar un cuestionario sencillo en el portal oficial.

De acuerdo con la descripción de la página, la herramienta funcionará de la siguiente manera:

• La persona explica su situación. Sin jerga gubernamental ni información personal.
• La aplicación consulta fuentes oficiales. Recopila información de fuentes estatales, federales y del condado en tiempo real para encontrar respuestas precisas.
• AskCA responde. Ofrece pasos claros a seguir y enlaces directos, con el objetivo de reducir el tiempo de búsqueda de los californianos.

Además de este proceso, CalHR será el primer departamento en implementar el prototipo AskCA en un servicio público real. La agencia se apoyará en la herramienta para impulsar una nueva función de búsqueda de empleo basada en inteligencia artificial que se lanzará el 30 de septiembre en el sitio web de trabajo estatal.

Al anunciar la firma de las legislaciones, el gobernador californiano remarcó que su administración tomó “medidas pioneras a nivel nacional” para promover la seguridad, la transparencia, la rendición de cuentas y la innovación responsable en el ámbito de la IA.

No obstante, luego agregó que “la magnitud y las posibles consecuencias de esta tecnología” exigen una acción sostenida “por parte de todos los niveles de gobierno”. En ese sentido, le pidió al gobierno federal del presidente Donald Trump que intervenga con medidas específicas sobre la IA.

“El gobierno federal debe actuar con regulaciones nacionales sólidas que estén a la altura de la urgencia del momento”, exigió para concluir.