Cinco razones por las que te debería importar la transparencia algorítmica

El infierno burocrático en materia de derechos sociales es un poquito más llevadero desde que el Tribunal Supremo diera la razón a la Fundación Ciudadana Civio en su pretensión de acceder al código fuente de BOSCO, el algoritmo que gestiona la concesión de las ayudas del Gobierno para aliviar la factura de la luz de los más necesitados. Éste ha sido el resultado de una pelea contra la Administración de nada menos que seis años en los tribunales.

Eso sí, dos meses más tarde de la publicación de la sentencia no parece que el Gobierno tenga mucha prisa en hacer caso al Alto Tribunal, dado que en Civio reconocen que no tienen aún lo que el Supremo les ha concedido: acceso a las tripas de BOSCO.

Durante una jornada celebrada esta semana, miembros de dicha fundación y varios expertos analizaron la trascendencia de esta sentencia, que establece una serie de criterios jurisprudenciales para futuros casos similares.

En este caso concreto, Civio trataba de averiguar por qué ese algoritmo, desarrollado por el Ministerio para la Transición Ecológica y el Reto Demográfico (MITECO), funciona desde hace años tan mal (por ejemplo, al discriminar a las personas viudas jubiladas). 

El asunto pasó por varias instancias administrativas y judiciales hasta que suscitó "un especial interés" del Alto Tribunal. Tal es así que esta sentencia marcará futuras decisiones tanto del Consejo de Transparencia y Buen Gobierno como de los tribunales, en caso de llegar a esta vía. [Vídeo íntegro de la vista oral]

Estos son los cinco aspectos más destacados de esta sentencia, de interés para cualquier ciudadano:

1) Es un derecho constitucional   

Por un lado, la sentencia recuerda que el derecho a la información pública es un derecho constitucional (art. 105.b), ejercitable frente a las Administraciones Públicas como "derecho subjetivo de las personas". Y esto es así, según dicho texto, "derivado de exigencias de democracia y transparencia, e inseparablemente unido al Estado democrático y de Derecho". El interés concreto se deriva de situaciones tan graves como, por ejemplo, el rechazo de una prestación a quien claramente tiene derecho.

2) Ante las nuevas tecnologías  

Además, los jueces establecen que el "derecho de acceso a la información pública adquiere especial relevancia ante los riesgos que entraña el uso de las nuevas tecnologías en el ejercicio de las potestades públicas o la prestación de servicios públicos, como ocurre con el empleo de sistemas informáticos de toma de decisiones automatizadas en la actividad de las Administraciones públicas, especialmente, cuando tienen por objeto el reconocimiento de derechos sociales".

3) Que se entienda  

De esta forma, el Supremo estima que las Administraciones han de facilitar los datos suficientes con el objeto de "proporcionar a los ciudadanos la información necesaria para su comprensión y el conocimiento de su funcionamiento", implique o no el acceso al código fuente. Es decir, la transparencia algorítmica tiene que servir como garantía de igualdad de acceso a las administraciones y como un control básico para comprobar que las normas se aplican correctamente.

4) Quién puede pedir la información   

El acceso al código fuente de una aplicación de la Administración no tiene que ser automático sino ponderado en cada caso. En este caso concreto, el Supremo reconoce el derecho de la Fundación Ciudadana Civio como parte legítima a acceder al código fuente de BOSCO debido a que la razón última es "comprobar si los solicitantes del bono social cumplen con los requisitos previstos, legal y reglamentariamente, para tener la consideración de consumidor vulnerable y, por ende, resultan ser beneficiarios del bono social".

5) De quién es el código fuente  

La sentencia deja claro que la propiedad del código fuente de BOSCO es de la Administración Pública, pero establece que el Gobierno no puede ampararse en la protección jurídica del derecho de autor dado que la finalidad de un software como éste, desarrollado de forma interna, no está expuesto a una "lógica competitiva de mercado". Es decir, lo que genera la Administración Pública debería ser tan abierto al espacio público como lo son las leyes, los reglamentos o las sentencias judiciales.

Será interesante ver cómo encaja esta jurisprudencia con el Reglamento Europeo sobre inteligencia artificial, en el que se establecen límites a los sistemas de IA en función de su finalidad pero no entra a regular el acceso ciudadano a dichos sistemas para monitorizar su funcionamiento en lo que les pueda afectar.

 "Es imposible saber qué partes del Gobierno están usando inteligencia artificial " 

Estrella Gutiérrez, profesora en la Universidad Complutense (UCM) y miembro del Grupo de Trabajo de Transparencia y Acceso a la Información Pública, reconoce que "es imposible saber qué partes del Gobierno están usando inteligencia artificial, es una información muy opaca que puede extraerse a duras penas a través del Portal de la Contratación Pública o de los perfiles de los contratistas.

De momento, una de las exigencias de Civio es que exista "un registro de algoritmos públicos", afirma Eva Belmonte, codirectora de dicha fundación. Porque como asegura su otro codirector, David Cabo: "Si no lo hace el Estado, lo haremos nosotros".