IA generativa en la justicia: riesgos jurídicos y el caso del juez sancionado por usar ChatGPT

La incorporación de la inteligencia artificial en el ámbito jurídico ya no es una posibilidad futura, sino una realidad presente. Sin embargo, el reciente expediente disciplinario abierto a un magistrado en España por utilizar ChatGPT para redactar una sentencia ha puesto de manifiesto los límites, riesgos y vacíos normativos que todavía existen.

Este caso, que será evaluado por el Consejo General del Poder Judicial, no solo tiene consecuencias individuales, sino que abre un debate estructural sobre el uso de la IA generalista en funciones jurisdiccionales.

El caso: uso de IA en la redacción de una sentencia judicial

Según los hechos conocidos, el magistrado introdujo el contenido completo de un procedimiento civil en ChatGPT con el objetivo de que la herramienta generara la resolución judicial correspondiente. Este uso no fue comunicado al resto de los miembros del tribunal.

La irregularidad fue detectada porque el texto de la sentencia incluía fragmentos literales de las interacciones entre el juez y la inteligencia artificial, lo que evidenció que la resolución no había sido redactada íntegramente por el ponente.

A partir de la investigación interna, se concluyeron dos aspectos relevantes:

• En primer lugar, que el magistrado volcó información sensible del procedimiento judicial en una plataforma externa, lo que implica un posible incumplimiento del deber de confidencialidad.
• En segundo lugar, que la IA no fue utilizada como herramienta auxiliar de corrección o estilo, sino como un sustituto efectivo en la elaboración del razonamiento jurídico y la redacción de la sentencia.

El Promotor de la Acción Disciplinaria considera acreditado que el juez dio instrucciones directas a la IA para ampliar, reformular y mejorar el contenido jurídico, lo que demuestra una dependencia estructural de la herramienta.

Posibles sanciones y calificación jurídica

El expediente propone sanciones en el rango más bajo previsto por la normativa, pero con una calificación de gran relevancia jurídica:

• Suspensión de empleo y sueldo durante 15 días
• Multa de 1.000 euros

No obstante, la ley permite sanciones mucho más severas, con suspensiones de hasta tres años y multas que pueden alcanzar los 6.000 euros.

Desde el punto de vista disciplinario, se imputan dos tipos de infracciones:

Falta muy grave

Se considera que el magistrado habría delegado la función jurisdiccional en un sistema de inteligencia artificial. Esto implica incumplir una de las obligaciones esenciales del juez: dictar resoluciones basadas en su propio criterio jurídico.

Falta grave

La introducción del expediente judicial en una plataforma externa supone la posible revelación de información obtenida en el ejercicio de la función judicial, lo que vulnera el deber de reserva.

IA generalista frente a IA jurídica: una distinción clave

Uno de los elementos más importantes del caso es la naturaleza de la herramienta utilizada. ChatGPT es una IA generalista, no un sistema específicamente diseñado para el ámbito judicial.

Las IA generalistas funcionan mediante modelos probabilísticos que generan texto en función de patrones lingüísticos, sin garantizar:

• Veracidad jurídica
• Actualización normativa
• Coherencia jurisprudencial

Por el contrario, las soluciones de IA jurídica suelen estar entrenadas con bases de datos legales verificadas y diseñadas para tareas concretas como búsqueda jurisprudencial, análisis documental o predicción de riesgos.

La utilización de una IA generalista en un contexto jurisdiccional implica asumir riesgos que no son aceptables en un entorno donde la precisión y la responsabilidad son esenciales.

Riesgos jurídicos del uso de IA en la función judicial

Delegación de la función jurisdiccional

El núcleo del problema reside en la posible sustitución del juez por un sistema automatizado. La función jurisdiccional no se limita a redactar textos, sino que implica:

• Valorar pruebas
• Interpretar normas
• Aplicar principios jurídicos
• Fundamentar decisiones

Delegar estas funciones en una IA supone una quiebra del principio de responsabilidad judicial y puede afectar a la validez de las resoluciones.

Vulneración de la confidencialidad

Los expedientes judiciales contienen información especialmente sensible. Al introducir estos datos en plataformas externas, se generan varios riesgos:

• Pérdida de control sobre la información
• Posible almacenamiento o reutilización de datos
• Incumplimiento de normativa de protección de datos

Este aspecto es especialmente relevante en sistemas de IA alojados en la nube, donde no siempre existe claridad sobre el tratamiento de la información.

Falta de transparencia y trazabilidad

Las decisiones judiciales deben ser motivadas y comprensibles. El uso de IA introduce opacidad en el proceso de elaboración de la sentencia, ya que:

• No siempre es posible reconstruir el razonamiento completo
• El modelo puede generar contenido sin explicación verificable
• Se dificulta la revisión por instancias superiores

Riesgo de errores y “alucinaciones”

Las IA generativas pueden producir información incorrecta con apariencia de veracidad. En el ámbito jurídico, esto se traduce en:

• Citas de jurisprudencia inexistente
• Interpretaciones erróneas de normas
• Omisiones relevantes

Estos errores pueden afectar directamente a los derechos de las partes implicadas.

Impacto en el sistema judicial

Este caso tiene implicaciones que van más allá de la conducta individual del magistrado. Supone un precedente en varios niveles:

• Introduce la primera respuesta disciplinaria al uso indebido de IA en la judicatura
• Evidencia la falta de protocolos claros sobre el uso de estas herramientas
• Refuerza la necesidad de regular la interacción entre tecnología y función judicial

Además, pone de manifiesto una tensión creciente entre eficiencia y garantías. La IA puede agilizar procesos, pero su uso inadecuado puede comprometer principios fundamentales del Estado de derecho.

Necesidad de regulación y criterios claros

La evolución tecnológica exige una respuesta normativa y organizativa que permita aprovechar las ventajas de la IA sin poner en riesgo el sistema judicial.

Entre las medidas necesarias se encuentran:

Definición de usos permitidos

Es necesario establecer claramente en qué casos la IA puede ser utilizada:

• Apoyo documental
• Búsqueda de información
• Asistencia en redacción formal

Y en qué casos debe prohibirse:

• Toma de decisiones
• Valoración de pruebas
• Fundamentación jurídica

Garantías de seguridad y confidencialidad

Cualquier uso de IA en el ámbito judicial debe garantizar:

• Protección de datos
• Entornos cerrados y controlados
• Auditoría de accesos y uso

Formación de operadores jurídicos

El conocimiento técnico es esencial para evitar usos indebidos. Los jueces y profesionales del derecho deben comprender:

• Cómo validar sus resultados
• Cómo funcionan estos sistemas
• Cuáles son sus limitaciones

Conclusión

El expediente disciplinario contra este magistrado marca un punto de inflexión en la relación entre inteligencia artificial y justicia.

La IA puede ser una herramienta útil para mejorar la eficiencia del sistema judicial, pero no puede sustituir la función esencial del juez. La responsabilidad, la interpretación jurídica y la valoración de pruebas son tareas que requieren juicio humano.

El desafío no es tecnológico, sino jurídico e institucional: integrar la innovación sin comprometer los principios fundamentales del sistema judicial.

Este caso anticipa un escenario en el que la regulación de la inteligencia artificial en la justicia será no solo necesaria, sino urgente.

---

Podría interesarte: IA jurídica ilimitada en España: por qué Prudencia.ai marca la diferencia