Primera multa por usar mal la IA en un recurso: lección jurídica para abogados y despachos

El uso de inteligencia artificial en el sector legal está creciendo rápidamente, pero también empiezan a aparecer las primeras consecuencias jurídicas cuando se utiliza sin supervisión.

El Tribunal Administrativo de Recursos Contractuales de la Junta de Andalucía (TARCJA) ha impuesto la primera multa en España vinculada al uso incorrecto de herramientas de IA en la preparación de un recurso administrativo. La resolución sanciona a una empresa que presentó un recurso con citas jurídicas incorrectas que no correspondían con el contenido real de las resoluciones citadas, aparentemente generadas con herramientas de inteligencia artificial sin verificación posterior.

Esta decisión marca un precedente importante para el uso de IA jurídica en despachos de abogados y departamentos legales.

Qué ocurrió: recurso con citas jurídicas incorrectas

El caso surge en un recurso especial en materia de contratación pública contra la adjudicación de un contrato de servicios de ayuda a domicilio.

La parte recurrente presentó un escrito de unas 30 páginas en el que citaba resoluciones administrativas y doctrina jurídica para reforzar sus argumentos. Sin embargo, durante el análisis del recurso el tribunal comprobó que:

• Varias resoluciones citadas no decían lo que el recurso afirmaba.
• Algunas citas no guardaban relación con el argumento jurídico utilizado.
• Las resoluciones invocadas trataban materias distintas a las alegadas en el recurso.

El tribunal señaló que las citas parecían extraídas de herramientas tecnológicas o de inteligencia artificial sin contraste posterior con las fuentes oficiales.

La decisión del tribunal: multa por temeridad

El tribunal no solo desestimó el recurso, sino que además consideró que la conducta del recurrente era temeraria, por introducir en el procedimiento argumentos jurídicos inexistentes.

En su resolución, el tribunal destaca varios aspectos relevantes:

• Las resoluciones citadas estaban mal interpretadas o directamente no decían lo que se afirmaba.
• El recurso generó una carga adicional de trabajo al tribunal, que tuvo que comprobar manualmente las resoluciones citadas.
• Existe un deber profesional de verificación cuando se utilizan herramientas tecnológicas para elaborar escritos jurídicos.

Por ello, el tribunal decidió imponer una multa de 1.500 euros al recurrente.

El mensaje del tribunal sobre el uso de inteligencia artificial

Uno de los aspectos más relevantes de la resolución es el mensaje directo del tribunal: El uso de herramientas tecnológicas o de inteligencia artificial no exime del deber de supervisión y verificación por parte del profesional.

En otras palabras, la responsabilidad jurídica sigue siendo del abogado o del profesional que firma el escrito. La inteligencia artificial puede ayudar en la investigación jurídica o en la redacción de escritos, pero no sustituye la revisión humana ni el contraste con fuentes oficiales.

El riesgo de las “alucinaciones” en la IA jurídica

Este caso refleja uno de los problemas más conocidos de los modelos de IA generalistas: las alucinaciones jurídicas.

Las alucinaciones ocurren cuando una IA:

• inventa jurisprudencia,
• cita resoluciones inexistentes,
• o atribuye argumentos jurídicos que no aparecen en las fuentes.

Este fenómeno ya ha generado sanciones judiciales en otros países y ahora empieza a aparecer también en España.

Para los profesionales del derecho, el riesgo es evidente:

• presentar jurisprudencia incorrecta,
• basar un recurso en citas inexistentes,
• o utilizar doctrina jurídica no verificada.

Qué deben tener en cuenta los abogados al usar IA jurídica

Este caso deja varias recomendaciones claras para el uso responsable de IA para abogados:

1. Verificar siempre las fuentes

Toda cita de jurisprudencia debe comprobarse en fuentes oficiales como:

• bases de datos jurídicas
• repositorios judiciales
• boletines oficiales

2. No copiar directamente lo que genera la IA

La IA puede ayudar a estructurar argumentos, pero el contenido debe revisarse jurídicamente.

3. Contrastar siempre las resoluciones citadas

Especialmente en:

• recursos administrativos
• demandas
• escritos procesales

4. Utilizar herramientas jurídicas especializadas

Las herramientas generalistas tienen más riesgo de generar errores jurídicos.

Por qué la IA jurídica especializada es clave

Este caso demuestra por qué está creciendo el interés en IA jurídicas especializadas en derecho, diseñadas para trabajar con:

• fuentes verificadas
• jurisprudencia real
• citas trazables

Frente a herramientas generalistas, una IA jurídica especializada reduce el riesgo de:

• jurisprudencia inventada
• citas incorrectas
• errores doctrinales

Cómo Prudencia.ai aborda este problema

En Prudencia.ai hemos diseñado nuestra IA jurídica con un objetivo claro: mitigar al máximo las alucinaciones jurídicas.

Para ello:

• Trabajamos con jurisprudencia verificada, especialmente del Tribunal Supremo.
• Incorporamos trazabilidad de las sentencias mediante enlaces directos a las resoluciones.
• Priorizamos fuentes oficiales y contrastadas.

El objetivo no es sustituir al abogado, sino ofrecer un copiloto jurídico fiable que reduzca riesgos y mejore la investigación jurídica.

Conclusión

La primera multa en España por el uso incorrecto de inteligencia artificial en un recurso jurídico marca un punto de inflexión.

La lección es clara:

• La IA puede ser una gran herramienta para los abogados.
• Pero su uso exige rigor, supervisión y verificación.

En el ámbito jurídico, la precisión no es opcional: una cita incorrecta puede tener consecuencias legales y económicas.

Por eso, el futuro del sector pasa por utilizar IA jurídica especializada, con fuentes verificadas y trazabilidad, que ayude al profesional sin comprometer el rigor jurídico.

---

Podría interesarte: Riesgos de protección de datos para un abogado que utiliza una IA generalista