“Copiar y pegar”: la frase que delató a un juez que usó ChatGPT y ahora es investigado tras la anulación de su fallo
La sentencia del 4 de junio, firmada por Carlos Rogelio Richeri, fue declarada nula tras detectarse una frase que delató el uso de IA; habrá otro debate con un nuevo magistrado
4 minutos de lectura'
LA NACION
Una frase extraña, ajena al tono técnico de cualquier sentencia, encendió las alarmas: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”. Esa línea, incrustada en el texto decisorio, reveló que un asistente de inteligencia artificial había intervenido en la redacción. El desliz fue suficiente para que la Cámara Penal de Esquel derribara todo el fallo y ordenara volver a empezar: la condena quedó anulada y habrá nuevo juicio, con otro juez.
El caso estalló este miércoles, cuando la Cámara decidió anular de oficio (sin que ninguna de las partes lo solicitara) la sentencia dictada el 4 de junio por el juez penal Carlos Rogelio Richeri, que había impuesto a Raúl Amelio Payalef una pena de dos años y seis meses de prisión de cumplimiento efectivo. La decisión implica que el proceso deberá repetirse desde el debate, esta vez ante un magistrado distinto.
La prueba determinante del uso de IA generativa fue la inclusión accidental de esa frase, que corresponde a un intercambio con el asistente artificial. Para los camaristas, esa “evidencia de copiar y pegar” abre una brecha demasiado amplia: ya no es posible precisar cuánto del texto decisorio es atribuible al sistema y cuánto al juez. Y esa indeterminación colisiona con un límite básico: la prohibición de delegar decisiones judiciales en sistemas automáticos, núcleo del principio de juez natural (la garantía de que la decisión emana de una autoridad humana competente, independiente y responsable).
La Cámara, integrada por Carina Estefanía, Martín Zacchino y Hernán Dal Verme, fue más allá de lo meramente formal. Señaló que el error dejó al descubierto que el juez no ejerció correctamente la supervisión y el control humano exigidos cuando se recurre a herramientas de IA. La sentencia fue suscripta con una cita del asistente y, además, no se dejó constancia del uso de la IA ni de lo solicitado al programa. Esa ausencia de registro impide verificar la trazabilidad del razonamiento: sin saber qué se pidió, qué se obtuvo y cómo se integró al análisis, la decisión se aproxima a una respuesta dogmática o inmotivada (esto es, sin fundamentos controlables).
En el plano institucional, los jueces ordenaron remitir las actuaciones al Superior Tribunal de Justicia de Chubut (órgano que ejerce la superintendencia sobre la actividad jurisdiccional, es decir, la facultad de dirigir y controlar la organización del servicio de justicia) para que investigue el alcance de las “graves consecuencias” que tuvo en este proceso el uso incorrecto de la IA. El envío busca que el máximo tribunal provincial determine responsabilidades y medidas frente a lo ocurrido, en resguardo del acceso a la justicia y de la tutela judicial efectiva.
El pronunciamiento también encendió una luz roja sobre la confidencialidad. Los camaristas advirtieron que el magistrado pudo haber incumplido los recaudos fijados por el Acuerdo Plenario N° 5435 del Superior Tribunal, al incorporar en el texto procesado por el asistente los nombres de las partes, testigos y peritos. En otras palabras: al cargar información sensible en una herramienta de IA, se habría expuesto material protegido, en tensión con las obligaciones de reserva que rigen en el proceso penal.
El punto neurálgico para los jueces fue la línea de responsabilidad: incluso si una herramienta de IA puede asistir en tareas mecánicas o de apoyo, la deliberación, la argumentación y la decisión deben ser inequívocamente humanas y auditables. Por eso, subrayaron, cuando se utiliza tecnología en un expediente debe informarse su uso, conservarse los insumos (qué se le pidió al asistente y qué devolvió) y explicitarse cómo ese material se integró —o no— al razonamiento. Nada de eso ocurrió en el caso revisado.
La consecuencia procesal fue la más severa: nulidad de la sentencia y, por arrastre, del juicio que la precedió. La Cámara destacó que volver a juzgar implica costos concretos para las personas involucradas, la ciudadanía y el Estado, que debe garantizar un servicio de justicia con decisiones motivadas, comprensibles y legítimas.
En términos prácticos, la resolución no se pronuncia sobre la culpabilidad o inocencia de Payalef: no revisa el fondo, sino la validez del procedimiento y de la sentencia.
Más leídas de Seguridad
1Río Negro: falleció una mujer tras chocar contra una ambulancia y caer a un desagüe
2Sorpresivo y brutal ataque a una niña en Palermo: le pegaron una patada en plena calle
3“Me dijo que tenía que morir”: brutal ataque de viudos negros a un psicólogo en Palermo tras un match en una app
4Golpiza mortal en 50 segundos: a cuántos años fue condenado cada acusado por el crimen de Báez Sosa
