El Poder Judicial abre expediente a un juez que usó Chat GPT para redactar una sentencia

El Consejo General del Poder Judicial (CGPJ) ha abierto expediente a un magistrado que empleó inteligencia artificial, en concreto Chat GPT, para redactar el borrador de una sentencia y que enfrenta una posible sanción de suspensión y multa.

La Comisión Disciplinaria de este órgano constitucional deberá decir si sanciona a este magistrado de una Audiencia Provincial con 15 días de suspensión y una multa de 501 euros, como ha reclamado el promotor de la acción disciplinaria, Ricardo Gonzalo Conde, según ha adelantado El Español y han confirmado a EFE fuentes del Poder Judicial.

La Fiscalía, que también interviene en los expedientes disciplinarios a jueces y se ha pronunciado al mismo tiempo que el promotor, ha propuesto en cambio archivar el expediente, sin imponer sanción, al considerar que no se ha producido una infracción disciplinaria.

Según publica El Español, el juez empleó la IA para redactar una resolución y fue descubierto porque olvidó eliminar las consultas a Chat GPT del texto del que era ponente.

El promotor ha cuestionado a este magistrado por haber presentado al resto de los integrantes del tribunal una "aparente sentencia" que había sido motivada, es decir, argumentada, por "métodos artificiales sobre el análisis informático que Chat GPT había hecho de las actuaciones judiciales que el propio magistrado suministró con tal propósito".

Al proponer la sanción, el promotor no ha cuestionado la utilización "per se" de la herramienta de inteligencia artificial, sino que lo hiciera "eludiendo cumplir con su función jurisdiccional".

Sin advertir y sin tomar precauciones

Subir a una inteligencia artificial "la totalidad de las actuaciones y redactar una sentencia a base de preguntas dirigidas a la obtención de texto", sin advertir al resto de los miembros del tribunal y sin tomar la "menor protección" sobre los datos personales contenidos en los autos es, según el promotor, "una infracción del más elemental deber judicial de dictar sentencia y de lealtad".

Según han señalado las mismas fuentes, Conde ha considerado que este juez pretendió "eludir la labor de motivar el parecer del tribunal con respecto a un asunto del que era ponente, valiéndose para ello de una herramienta de IA", es decir, que evitó su labor de explicar el por qué de la decisión y dejó que lo hiciera la IA.

Por eso, ha pedido sancionar a este juez por una falta muy grave y otra grave por la ignorancia inexcusable del cumplimiento de los deberes judiciales y por revelar fuera de los cauces judiciales datos conocidos en su labor como magistrado, conductas previstas en los artículos 417.14 y 418.8 de la Ley Orgánica del Poder Judicial.

Se advirtió a los jueces de que la IA no puede sentenciar

El pasado 28 de enero, el Pleno del Consejo General del Poder Judicial (CGPJ) aprobó una instrucción sobre el uso de IA, en la que advirtió a los jueces de que la inteligencia artificial no puede dictar sentencias, valorar hechos o pruebas ni aplicar el derecho sin la supervisión y el "constante control humano, real, consciente y efectivo" de los jueces.

Esta instrucción prohíbe que la IA supla a los miembros de la Carrera Judicial en el ejercicio de la actividad jurisdiccional, el de responsabilidad judicial, el de independencia judicial, el de respeto de los derechos fundamentales y principios de confidencialidad y seguridad y el de prevención de sesgos algorítmicos.

Además, el Poder Judicial señaló que los jueces solo pueden usar las aplicaciones de inteligencia artificial que les sean facilitadas por las administraciones competentes en materia de Justicia y hayan pasado el control del CGPJ o aquellas que les sean proporcionadas directamente por el órgano de gobierno de los jueces.