Río Negro, pionera en sancionar el uso indebido de inteligencia artificial en la Justicia

Río Negro se convirtió en la primera provincia en sancionar a abogados que presenten escritos con citas falsas inventadas mediante inteligencia artificial. Se trata de la nueva acordada del Superior Tribunal de Justicia (STJ) que aprobó y reguló el uso de Inteligencia artificial dentro del Poder Judicial.

Esta modificación se basa en el caso de la Cámara Civil de Roca que identificó 26 antecedentes penales que no existían en la presentación por parte de dos abogados ante el Tribunal.

La medida amplió el protocolo de buenas prácticas sancionado en octubre de 2024 y lo extendió a auxiliares externos, con el objetivo de garantizar un servicio judicial confiable y proteger el derecho de defensa. La Acordada 15/24 creó el protocolo y lo estableció como obligatorio para magistrados, funcionarios y empleados judiciales.

Con esta nueva disposición, el máximo tribunal provincial incluyó a peritos, técnicos y profesionales de la abogacía, al imponer criterios de uso responsable de la IA en todas las instancias del proceso judicial. El paso inicial fue en 2024 con la sanción del protocolo y avance de desarrollos propios.

El caso que dio origen a la medida

El insólito episodio ocurrió en el trámite de una demanda presentada por un vecino de Roca contra una empresa automotriz y su concesionaria oficial, tras la compra de un vehículo de alta gama que presentó fallas apenas comenzó a circular.

El abogado del denunciante tenía 20 presuntos antecedentes falsos, mientras que los seis restantes fueron del defensor. Ante las citas sospechosas, los jueces verificaron en la biblioteca del Poder Judicial y en los registros del Superior Tribunal de Justicia y el resultado fue preocupante: los fallos aludidos no existían.

Los dos abogados, dieron explicaciones poco convincentes. Dijeron a los jueces que hubo un “error de pluma” y “problemas al consultar una revista doctrinaria” según el caso.

Los jueces, en cambio, sospechan que se utilizó Inteligencia Artificial generativa para escribir las presentaciones. Por ello, aplicó una sanción preventiva y le pidió a los propios colegas de los abogados que analicen si corresponde una sanción mayor. Para los camaristas, que las citas provengan de un servicio de IA es grave, pero si fueron inventadas por los letrados sería "mucho más grave aún” por intentar inducir a error al tribunal.

Los jueces resolvieron que los abogados no cobren sus honorarios y pidieron la intervención del Colegio de Abogados de Roca. Más allá de la irregularidad en los escritos de los letrados, el caso se resolvió. La Cámara Civil ratificó un fallo a favor del demandante.

El Poder Judicial ya implementó la utilización de IA

Entre ellos se destacó el sistema que utiliza la IA en el fuero Contencioso Administrativo administrativo, así como distintos proyectos internos destinados a optimizar la gestión administrativa. El STJ destacó que la inteligencia artificial consolidó una herramienta de apoyo para agilizar tareas, elaborar borradores y mejorar los tiempos de la labor judicial.

sello uso ia (1)

El TSJ reconoció que el fuero Contencioso Administrativo administrativo utiliza IA y se consolidó como una herramienta que permite agilizar tareas, elaborar borradores y mejorar los tiempos judiciales.

Sin embargo, advirtió que el uso de la IA sin supervisión puede ocasionar consecuencias graves que afectan directamente la transparencia y la confianza en las resoluciones. El STJ recordó que ya hubo antecedentes de escritos presentados con citas inexistentes o jurisprudencia inventada.

Las consecuencias del uso de IA en la presentación judicial

Según los fundamentos del Tribunal, estas prácticas atentaron contra el derecho de defensa, engañaron a los jueces y obligaron a suprimir fragmentos de los expedientes debido al error. Estas irregularidades retrasaron el proceso judicial y colocó a las personas representadas en una situación de vulnerabilidad, además de debilitar la confianza en el Poder Judicial de Río Negro.

inteligencia artificial.jpg

La modificación se basa en el caso de la Cámara Civil de Roca que identificó 26 antecedentes penales que no existían durante su presentación ante el Tribunal.

Por esa razón, definió que a partir de ahora los tribunales estarán habilitados para aplicar sanciones dentro de sus facultades correctivas. Incluso deberán remitir los casos a los Colegios de Abogados para su tratamiento en los Tribunales de Ética o Disciplina.

Nuevas sanciones por el uso de Inteligencia Artificial

El STJ indicó que inventar jurisprudencia no constituye un error menor, sino un incumplimiento grave que desnaturaliza el rol de defensa. “Introducir precedentes inexistentes en un escrito hace perder tiempo a los jueces en la búsqueda de citas que no existen, obstaculiza el análisis de la causa y coloca en riesgo directo a las personas que buscan una respuesta judicial” indicó el TSJ.

sello uso ia

Como parte de la medida, la acordada estableció también la obligación de elaborar un plan de capacitación específico sobre inteligencia artificial generativa para todo el territorio provincial.

Como parte de la medida, la acordada estableció también la obligación de elaborar un plan de capacitación específico sobre inteligencia artificial generativa. La Escuela de Capacitación Judicial junto con la Dirección General de Sistemas y los Colegios de Abogados deberá implementar la formación en todo el territorio provincial.

El protocolo de 2024 ya fijaba pautas sobre la validación de los contenidos producidos con IA, control humano en cada etapa del proceso, evaluación de posibles sesgos y la protección de datos personales. Además, establecía que la tecnología sólo puede cumplir una función de apoyo y nunca reemplazar el juicio profesional propio del ser humano.