Un funcionario virtual que presenta muchos interrogantes
¿Qué pasa cuando un chatbot de inteligencia artificial puede dictar actos administrativos oficiales?
4 minutos de lectura'
En Zárate hay una nueva funcionaria pública. No cobra sueldo, no duerme y, según el decreto municipal N° 532/2025, puede firmar resoluciones y gestionar expedientes con la misma potestad que cualquier agente de carne y hueso. Se llama ZARA, es un chatbot de inteligencia artificial y es, oficialmente, la primera “funcionaria no humana” del país. La promesa de trámites rápidos y disponibles las 24 horas es difícil de resistir. Pero, ¿qué pasa cuando ZARA se equivoca?
Esa duda llevó a consultar a ZARA por el chat municipal. Al preguntar por su responsabilidad jurídica como funcionaria, el sistema emitió una advertencia automática: “Vecino/a, recordá que este canal utiliza inteligencia artificial, por lo que algunas respuestas podrían contener imprecisiones”. Este reconocimiento del Municipio motivó la elaboración de este artículo con el único fin de escribir algunas líneas sobre la falibilidad de la inteligencia artificial en el marco de la administración pública.
No es la primera vez que una novedad como la IA se presenta como incuestionable. A comienzos del siglo XX, el radio se vendía como tónico de vitalidad, hasta que se supo que destruía los huesos de quienes lo manipulaban. De igual manera, la lobotomía ganó un Premio Nobel antes de que se comprobaran sus daños irreversibles. Y más recientemente, en Estados Unidos, el sistema Compas, que predecía con “objetividad” la reincidencia de los presos, fue cuestionado en la Justicia por reproducir sesgos raciales.
En el caso de ZARA, lo que está en juego es bajo qué reglas debe incorporarse al Estado.
Resulta importante advertir que ZARA fue encomendada vía licitación por el municipio para que particulares la diseñen. Entonces, si Zárate no tiene la pericia para crear el algoritmo, ¿con qué idoneidad lo auditará, detectará sus sesgos o corregirá sus fallas? Además, cada expediente que ZARA resuelve contiene datos personales de vecinos protegidos ley, cuyo resguardo termina, de hecho, tercerizado en la empresa que ganó la licitación.
Cuando un empleado municipal causa un daño en ejercicio de sus funciones, responde el Estado, no el empleado, sin importar si hubo o no mala intención. A esta característica se la conoce como responsabilidad objetiva y trae aparejado que el Estado debe hacerse cargo del daño más allá de la culpa. Considerando que ZARA fue designada “funcionaria” por decreto, deberíamos comenzar por examinar la responsabilidad de ZARA como un agente.
La decisión de categorizar a una inteligencia artificial como “funcionaria no humana” sugiere que el municipio podría estar arrogándose facultades que exceden su competencia. Históricamente, el concepto de funcionario público ha estado indisolublemente ligado a un sujeto humano. Al investir con este carácter a un algoritmo, el Estado municipal pareciera estar creando de facto una nueva categoría de sujeto, ajena por completo a la estricta división legal entre “persona humana” y “persona jurídica” que prevé y regula el Código Civil y Comercial de la Nación.
Más allá de esto, sus actos como “funcionaria” no serían asimilables a las de una empresa privada y conllevarían a que la responsabilidad recaiga sobre el Municipio. Si se genera un perjuicio, entonces, el vecino no debe reclamarle a la empresa privada que la programó, sino al Municipio.
Sin embargo, si la “funcionaria” es un código, ¿ tenemos que analizar su actuación como si fuese un humano?, ¿Puede eximirse de responsabilidad la municipalidad invocando la falla del algoritmo?, ¿Qué pasa si el código aprende y cambia su comportamiento?
Una solución podría ser usar el mismo esquema que se aplica a las concesiones de servicios públicos, donde el Estado responde por fallar en su deber de control. Sin embargo, esa lógica no es fácilmente trasladable a ZARA. Al haber sido designada por decreto como “funcionaria pública” con capacidad de dictar actos administrativos, si la evaluamos como una herramienta concesionada estaríamos dejando una gran cantidad de decisiones estatales por fuera de las reglas, garantías y lógicas propias del procedimiento administrativo.
Por otra parte, otra incógnita que se abre es el efecto “caja negra” a partir del cual la IA oculta su lógica, lo que impide al Estado fundamentar legalmente sus actos y a los ciudadanos, defenderse.
Zárate ya resolvió que la IA debe ser utilizada por la administración y es cuestión de tiempo que otros municipios lo hagan. Lo que queda pendiente es bajo qué reglas. Por eso, resulta vital que ante estas inquietudes (y muchas otras más que seguirán apareciendo) se analice el panorama y se examinen las consecuencias que pueden traer aparejadas.
Antes de festejar la implementación de innovaciones, debemos evaluar si como sociedad podremos poner reglas claras para casos como el de ZARA.
