Simón Casal muestra en 'Justicia artificial' qué pasaría si se utilizara la Inteligencia Artificial en los juicios

Justicia artificial, que acaba de participar en el Festival de Shanghai, propone, desde un thriller ambientado en un futuro muy próximo, un debate sobre la posibilidad de implementar la Inteligencia Artificial en el sistema judicial.

En una situación democrática ideal, probablemente, nadie apostaría por la utilización de la Inteligencia Artificial (IA) en el sistema judicial. ¡Tan seguros estaríamos del buen juicio, la humanidad y rigor de juezas y jueces! En la realidad de España hoy, donde se abren causas sin causa por razones políticas y donde se archivan causas que claman al cielo, donde los asuntos judiciales ocupan el centro del debate democrático, donde se amontonan en pilas interminables los casos por resolver… la pregunta de si apoyaríamos la implementación de la IA en la Justicia suscita muchísima más polémica y más dudas. Y esta actualidad y oportunidad es, sin duda, la gran baza de la nueva película de Simón Casal, Justicia artificial.

Coescrita por el director y Víctor Sierra, la historia, narrada desde el thriller, está ambientada en un futuro próximo donde ya es normal el uso de coches autónomos. En esta ficción el Gobierno prepara un referéndum para aprobar justamente un sistema de Inteligencia Artificial en la Administración de Justicia, prometiendo que con ello se automatizará y despolitizará el sistema judicial. La desaparición de la creadora del sistema y las sospechas de una reconocida jueza ponen en peligro las intenciones oficiales. Verónica Echegui, Tamar Novas, Alberto Ammann y Alba Galocha son los protagonistas.

Ver vídeo

La película de Simón Casal, que participará en la sección Made in Spain en San Sebastián, revela la fragilidad del sistema judicial y la amenaza real que encierra cualquier sistema de algoritmos, dependiendo de quiénes los han ordenado y definido.

Usted ya hizo antes un documental, 'Artificial Justice,' sobre este tema. Y ya decía entonces que había países que habían utilizado IA en el sistema judicial.

En Estados Unidos hay una prueba bastante famosa, la del COMPAS. Daba probabilidades de reincidencia sobre presos a los que aplicaban la libertad condicional. Fue hace años, hubo algunas investigaciones periodísticas y fue muy polémico porque se demostró que había sesgos raciales muy fuertes en el algoritmo. De ahí nace una parte de la inspiración de la película. En Inglaterra también ha habido pruebas, pero nunca de manera oficial, siempre a modo de estudio.

¿Existe algún indicio de que haya pasado algo así aquí?

En el sistema penitenciario catalán sí que hay un algoritmo para dar probabilidades creo que también de reincidencia. Existe VioGén, que predice el riesgo en casos de violencia de género, ofrece baremos a los jueces sobre la peligrosidad de un caso o de otro para establecer medidas cautelares, da una recomendación.

Lo que queda claro, también en su película, es que para poder establecer un debate serio sobre el uso de la IA en la Justicia, lo primero que habría que hacer es saber quién controla el algoritmo, ¿no?

Sí, quién está detrás y con qué controles va a operar. Es esencial porque al final está tratando de sustituir a un poder del Estado y, por tanto, se necesitan unos controles claros y unos límites también muy claros. Justicia algorítmica controlada por la democracia, con unos criterios de transparencia democráticos participativos muy claros. Pero yo no soy un experto.

No es un experto, pero ha investigado mucho el tema. ¿En su opinión que es peor una Justicia politizada y corrupta o una Justicia robotizada?

Es peor una Justicia robotizada, claramente. La Justicia no es producto de un cálculo, no hay una solución matemática, son decisiones políticas al final, la cuestión es cómo lo argumentas y cómo lo interpretas y cómo lo valoras, y mediante qué discusiones, qué debates, qué procesos has llegado a esa conclusión. Y creo que ese camino tiene que estar controlado por decisiones humanas. Las decisiones sobre si dar una libertad condicional o sobre si alguien es culpable o inocente es una visión política, realmente.

Estrenar  'Justicia artificial' en las circunstancias actuales de España ¿va a provocar un debate menos intelectual que emocional?

Sí. Realmente empecé a escribir el guion hace años, pero, claro, la situación de la Justicia en España está como está y se ha ido incrementando la tensión y la polémica. Ahora mismo, precisamente por eso, es un momento idóneo, justo por esa deslegitimación que hay, por los problemas que tiene la Justicia. Creo que sería muy fácil que alguien dijera que esto hay que solucionarlo y que la solución es "mi producto, mi software para la Justicia". Puede pasar igual en la política, que está absolutamente deslegitimizada y criticada. Hay que tener cuidado con las soluciones que se nos ocurren para solventar estos problemas de repente, tanto en la Justicia como en la política. Creo que la solución no es sustituirnos por un software, sino hacer mejor política, mejor Justicia, con más medios, con más participación ciudadana, con mejores procesos democráticos…

En la película, usted apunta que la IA podría llegar a tomar todo tipo de decisiones por nosotros, como la maternidad, someterse a un aborto…

Sí. Bueno, de hecho, está sucediendo. La IA está operando en la sociedad en nuestro día a día, tomando decisiones en diferentes ámbitos que nos afectan, en los hospitales, en los bancos, en la administración. En algunos casos no está mal, puede aportar cierta eficiencia en procesos de gestión o administrativos, pero hay que tener muy claro dónde se ponen los límites y hasta dónde lo dejamos entrar o hasta dónde nos puede ayudar. Es la idea de que, si hacemos datos de todo, lo digitalizamos todo y funcionamos a base de probabilidades y de números, todo lo que quede fuera de esa probabilidad no se va a llevar a cabo, y hay un montón de cosas que pasan en la vida, en la política… Gente que va contracorriente y que crea tendencias nuevas, que se revelan como revolucionarios y muy interesantes. Y está el peligro de que todo vaya hacia la media, hacia la plantilla.

No era necesario ambientar la historia en un futuro próximo, ¿por qué tomó esta decisión?

Realmente la IA ya está funcionando y hay experimentos en diferentes Administraciones de Justicia en el mundo, pero dar ese paso más de decidir sustituir a las juezas y jueces de todo el país, aún es como ciencia ficción. No quería hacer una película futurista ni distópica, porque creo que es inmediato y hay que hacerlo realista. Además, la inquietud en la película y la tensión residen también en que se vea en la película que este es nuestro mundo de hoy en día. Pero sí se da un paso más diciendo que hay una presidenta del Gobierno proponiendo que sustituyamos a todos los jueces.

¿Y por qué tratar la historia desde el 'thriller'?

Yo diría que es un thriller político, de intriga política. A mí me gustan mucho las historias de ficción política, con un punto como el de esos líderes conspiranoicos de los 70, y mezclando la ciencia ficción con cine negro… Me encanta esa estética, esos personajes solitarios que se enfrentan al sistema, en una sociedad que está en crisis… Es ese rollo, es un poco lo que quería para ambientar la película. Y todo eso situado en A Coruña, que es mi ciudad, y en Galicia, que es donde imagino toda la película.

¿Cómo ha ido la película en el Festival de Shanghai?

Muy bien, porque se han abierto muchos mercados. Es el único festival de clase A en Asia y eso te abre todas las puertas para vender la película en muchos países. Y sí, se ha vendido en muchos territorios. Se va a estrenar en cines simultáneamente en España, Grecia, Colombia y Portugal. Hay mucho interés por el tema en todo el mundo.

Hablando de distintos países, ¿la película se verá de diferente manera dependiendo de la realidad del sistema judicial en cada uno de ellos?

Sí, sí, claro, pero al final está el hecho, que supongo que es universal, de la posibilidad de introducir Inteligencia Artificial en cualquier sistema judicial. Tanto la Justicia como la política siempre van a estar en el punto de mira y, por eso, hay que tener cuidado de no destruirlos, porque son herramientas democráticas y es necesario que no estén totalmente deslegitimadas, porque si no se va a todo a… Hay que mejorarlas, pero no destruirlas, porque si se piensa en que hay que buscar otra cosa, aparecerán soluciones autoritarias.

¿Hay planes de hacer proyecciones de la película con jueces?

Sí, ya hemos hecho algunas.

¿Y hay más o menos debate que con público normal?

Mucho más. Cuando acaba la película, se generan debates encendidísimos, muy interesantes.

¿Qué es lo que más le ha sorprendido en esos encuentros?

Algunos dicen que está claro que, si se planteara un referéndum sobre esto, ganaría el sí, que no iba a haber ninguna duda. Con el nivel de crispación que hay, se genera mucha polémica. La gente está enfadada y podría decir: sustituyamos a todo el Parlamento por un sistema de IA y sustituyamos a todos los jueces.