Usaron IA para redactar una demanda, citaron fallos inexistentes y la Justicia los frenó

La incorporación de herramientas de Inteligencia Artificial en el ámbito jurídico volvió a quedar bajo la lupa en Río Negro, luego de que la Cámara de Apelaciones de General Roca confirmara el rechazo de una demanda por daños y perjuicios y realizara un severo llamado de atención a las abogadas intervinientes.

El motivo fue, que la presentación judicial contenía graves inconsistencias, citas de fallos inexistentes y errores que, según el propio tribunal, fueron producto del uso de IA generativa sin el debido control profesional.

El caso se originó a partir de un siniestro vial ocurrido en la intersección de las calles Juan XXIII y Araucanos, en Villa Regina. Una mujer, que viajaba como acompañante en una motocicleta, promovió una demanda contra el conductor de un automóvil Peugeot, al que acusó de haber intentado doblar intempestivamente hacia la izquierda, provocando el choque.

Sin embargo, las pericias accidentológicas incorporadas al expediente indicaron una versión diferente: la motocicleta habría intentado sobrepasar al vehículo justo antes de llegar a la esquina, maniobra que derivó en el impacto.

Villa Regina.jpg

Un relato confuso y contradictorio

Ya en primera instancia, la jueza rechazó la demanda al considerar que el relato de la actora era contradictorio, impreciso y carente de coherencia.

En su resolución subrayó que ni siquiera quedaba claro si la mujer era conductora o acompañante del rodado menor. Además, detectó la mención de calles inexistentes en la zona del hecho y descripciones de daños que no coincidían con los informes policiales.

“Resulta muy difícil dilucidar el relato de los hechos de la actora, pues se presenta contradictoria y confusa su redacción lo que impide tratar de realizar una representación de cómo sucedieron los hechos”, señaló el fallo. Incluso agregó que, de una lectura estricta del escrito inicial, “no hubiera habido contacto alguno entre los vehículos involucrados”.

Fallos inventados y “alucinaciones” de la Inteligencia Artificial

La apelación no solo no logró revertir ese criterio, sino que agravó la situación. Al analizar el escrito de expresión de agravios, la Cámara detectó la cita de jurisprudencia y doctrina inexistentes, supuestamente emanadas tanto de la Corte Suprema como del Superior Tribunal de Justicia de Río Negro.

Tras un control exhaustivo en los buscadores oficiales, los jueces concluyeron que esos precedentes nunca fueron dictados. La resolución fue contundente ya que se se trató de un caso típico de “alucinaciones” de la Inteligencia Artificial Generativa (IAGEN), es decir, respuestas falsas o inventadas por el sistema que fueron incorporadas al expediente sin verificación humana.

Tribunales Roca

Llamado de atención a las abogadas y advertencia al foro

La Cámara dejó en claro que el uso de estas tecnologías no exime de responsabilidad a los abogados, quienes siguen siendo los únicos responsables por el contenido de los escritos que presentan ante la Justicia.

“La utilización de IAGEN como herramienta auxiliar no dispensa el cumplimiento de los deberes profesionales”, advirtió el fallo, que finalmente confirmó el rechazo de la demanda y realizó un “llamado de atención” formal a las letradas por la gravedad de las irregularidades detectadas.

Además, recordó que la Acordada 22/2025 del Superior Tribunal de Justicia establece pautas claras sobre el uso de Inteligencia Artificial en el ámbito judicial y prevé sanciones correctivas en caso de empleo inadecuado.