Se acumulan los casos del uso indebido de la IA en la Justicia argentina
Al fallo anulado de un juez nacional por tener fundamentos generados por IA se suma la desestimación de varias presentaciones de abogados con jurisprudencia inventada por la IA
5 minutos de lectura'
La Cámara en lo Penal de Esquel resolvió anular una condena por “serios y graves defectos en su fundamentación” tras descubrir que el juez de primera instancia utilizó un asistente de Inteligencia Artificial Generativa para redactar un punto central de la sentencia.
El tribunal decidió anular por completo el juicio y la sentencia, una medida poco habitual. La decisión fue tomada de oficio, es decir, sin pedido de las partes. Así, quedó sin efecto la condena que el juez Carlos Rogelio Richeri había dictado el 4 de junio contra Raúl Amelio Payalef, a dos años y medio de prisión efectiva por robo. El caso volverá a juzgarse, esta vez bajo la mirada de otro juez.
El “furcio” que reveló el uso de la IA
El fallo original, Sentencia N° 1239/2025 del 4 de junio de 2025, había condenado a Payalef a dos años y seis meses de prisión de cumplimiento efectivo por el delito de robo simple. La defensa había impugnado la condena, cuestionando la valoración de la prueba y la modalidad de la pena. Al revisar el pronunciamiento, la Cámara detectó que el juez penal había dejado inserta, inmediatamente antes de comenzar el Punto IV (donde se resolvían los planteos de nulidad sobre las pruebas esenciales del caso), una frase que evidenció el uso del asistente virtual: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”.
Esta frase demostró que el magistrado había utilizado un sistema de inteligencia artificial generativa para elaborar la fundamentación en un aspecto central del proceso: la validez de las pruebas de cargo (videos de seguridad y pericia criminalística).
La Cámara consideró que esta acción violó directamente el Acuerdo Plenario n° 5435 del Superior Tribunal de Justicia (STJ) de Chubut, que establece las “Directivas para el uso ético y responsable de inteligencia artificial generativa en el Poder Judicial de Chubut”.
El tribunal señaló que el magistrado incumplió principios esenciales (que está en un acuerdo plenario del Tribunal de Justicia de Chubut) al utilizar inteligencia artificial sin la debida intervención humana. Copiar directamente una frase generada por el asistente sin supervisión ni control vulneró la obligación de evaluar la pertinencia y exactitud del contenido, lo que derivó en una posible delegación de la función de juzgar a un sistema automatizado, algo expresamente prohibido.
Además, la sentencia careció de la fundamentación y trazabilidad necesarias, ya que al pedir un texto “sin citas” se impidió verificar las fuentes y el razonamiento detrás del fallo. A esto se sumó una violación a la confidencialidad, dado que se incluyeron nombres de personas involucradas en el proceso, contrariando las normas que exigen preservar su anonimato.
El debate más de fondo: ¿está bien o mal usar IA?
Para Pablo Palazzi, profesor de San Andrés, socio de Allende y Brea, “No está ni mal ni bien. El juez consulta libros, fallos anteriores, expedientes”, describe. “No está mal que los jueces utilicen IA. Pero la función es indelegable, aunque se apoye en miles de herramientas. Creo que habría que empezar a usarla más y mejor, con fuentes claras. Porque también hay juicios que duran 10, 14 años. Hay que sincerar que hay que usar más la IA, bien utilizada y los juicios se acortarían 30 o 40 por ciento”, señala.
“No creo que sea un problema de la inteligencia artificial”, sostiene Pedro Breuer, abogado especialista en propiedad intelectual y nuevas tecnologías. “Hay que aprender cómo funciona y hay que utilizarla bien. Lo más importante al momento de utilizar una de estas herramientas, sea cual sea, es entender cómo funciona. No te digo que tenés que ser un experto técnico, pero sí saber que esto es predictivo y estadístico y que no te devuelve la verdad, sino que te devuelve algo que forma en base a estadística”, agrega.
IA y derecho, en problemas
El uso indebido de la Inteligencia Artificial en el ámbito judicial no se limita a los magistrados, sino que también está generando serios problemas y controversias en las presentaciones realizadas por abogados.
Esta problemática se centra en el fenómeno de las “alucinaciones” de las herramientas de IA generativa, que tienen la capacidad de crear contenido novedoso, incluyendo citas jurisprudenciales o fallos que resultan ser inexistentes o falsos.
En Argentina, la Sala I de la Cámara de Apelación en lo Civil y Comercial de Morón, Provincia de Buenos Aires, declaró el mes pasado desierto un recurso de apelación debido a que el escrito de la parte actora se fundó casi exclusivamente en la cita de fallos no verificables. Situaciones similares de presentación de jurisprudencia falsa por parte de letrados fueron advertidas en tribunales de Río Negro y Rosario.
A nivel internacional, en Indiana, Estados Unidos, un abogado fue sancionado por presentar citas jurisprudenciales falsas generadas por una alucinación de la IA. El tribunal consideró que el profesional había violado la normativa y su deber profesional, calificando la falta de verificación de las fuentes como “realmente inexcusable”. Los tribunales son enfáticos en que, si bien puede complementar el trabajo, no se puede depender del resultado sin verificar su validez o existencia. La responsabilidad profesional de cotejar celosamente las fuentes recae siempre en el letrado, aun cuando alegue buena fe.
Más leídas de Tecnología
1De Silicon Valley a la Argentina: dejaron su trabajo soñado para crear una empresa que llegó a 196 países
2Día de los enamorados: ideas para festejar San Valentín en pareja, según la IA
3Adiós, televisores con resolución 8K, ni nos vimos
4Adiós a Magis TV y Xuper TV: por qué bloquearon todos los canales de Argentina
Últimas Noticias
¿La única solución? Cada vez más escuelas prohíben los teléfonos para que los estudiantes puedan concentrarse
Éxodo de altos ejecutivos de la IA. Zoë Hitzig y Mrinank Sharma acusan una crisis ética y renuncian a OpenAI y Anthropic
