Queremos una tecnología que esté "al servicio de la gente", una tecnología "a escala humana", que "ponga a las personas en el centro", que "nos sirva para avanzar". Sí, claro. Decir eso es como no decir nada. Afirmar lo contrario, de hecho, sonaría absurdo: una tecnología "que no dé servicio a la gente ni busque resolver sus necesidades", una tecnología que "nos obligue a retroceder como especie", una tecnología que "desplace a las personas del centro y no las tenga como medida de todas las cosas". Es cierto que en el contexto actual de "antipolítica" un discurso así podría incluso encontrar nicho de audiencia. Sin embargo, esta no es la cuestión.

El marco que necesitamos para el desarrollo de la inteligencia artificial (IA) no es el de la ética, sino el de la distribución de poder. Redistribución de poder. A día de hoy, la ética es más una estrategia de techwashing que una garantía de no sé qué marco pro-derechos e igualitario, y mucho menos reparador. Sin que en sí misma tenga nada pernicioso, la ética nos puede hacer perder de vista uno de los orígenes más flagrantes de la desigualdad: la acumulación de poder.

Pensemos, por un momento, en la tecnología como una herramienta de distribución de poder. Eso nos obligaría a dirigir la mirada a diferentes aspectos que hoy en día parecen secundarios: la participación ciudadana, la gobernanza del código y la arquitectura de esa misma tecnología, y el liderazgo público (de la mano de la ciudadanía). Los datos son un elemento clave en el desarrollo de la IA al que dedicaremos un capítulo aparte.

Incorporar la participación ciudadana en el diseño de la IA implicaría reconocerle agencia política y capacitación técnica a las personas y colectivos más afectados por los sesgos de la IA (personas racializadas, personas que no entran los parámetro normativos, mujeres, personas con diversidad funcional, con diferente identidad de sexo y género…). La participación ciudadana en el control de la aplicación de la IA no solo por parte de organismos públicos, sino también por parte del sector privado cuando éste nos afecta (a la salud mental, al aumento de la discriminación…) ayudaría a controlar a quien tiene los procedimientos algorítmicos más potentes y peligrosos ahora mismo. La participación ciudadana es necesaria en la decisión de qué y cómo impulsar una IA al servicio del interés general por parte de las administraciones. Control democrático o desconfianza democrática, como prefiramos llamarle, en la supervisión de la tecnología. No olvidemos que la gasolina de la que se nutre la IA son los datos y en aquellos algoritmos que se usan con personas, el pozo de extracción somos nosotros.

La participación democrática debería ser un elemento clave también en el desarrollo del código. Y es así cómo llegamos a la arquitectura de la tecnología. Los programas, los procedimientos algorítmicos… se inscriben en código informático. El código en el que se desarrolla la Inteligencia Artificial puede ser libre, abierto y accesible o privatizado, cerrado y oculto. Una IA democratizada al servicio de la distribución del poder no puede ser del segundo tipo. Y esto, en las técnicas de aprendizaje profundo, implica compartir y hacer visibles tanto la arquitectura, los algoritmos de aprendizaje y sistemas matemáticos que dan cuerpo a la IA, como la configuración final del sistema una vez el entrenamiento con datos ha sido completado.

Cuando hablamos de una IA que sirva para distribuir el poder, lo hacemos desde la convicción de que no hay que inventar la sopa de ajo, que el software libre que encontramos en el origen de internet y en muchísimos programas de uso cotidiano (firefox, wordpress, android…) son gran parte de la respuesta. El software libre es como una receta de cocina que puedes compartir y modificar según se te antoje o necesites (puedes adaptarla si eres celíaco, vegetariana…). Puedes usarla, copiarla, cambiar ingredientes y compartir tus propias versiones. Lo importante es que siempre debes permitir que otros hagan lo mismo con tus modificaciones. Es libertad para usar, estudiar, modificar y compartir el software. Es poder ver el esqueleto, los órganos, la epidermis … de un programa informático o procedimiento algorítmico. Es cierto que los profanos como yo no sabríamos distinguir a simple vista si un programa es libre o no, pero en eso radica la riqueza de la comunidad: no todas tenemos que saber de todo. Aunque tú y yo no sepamos distinguirlo, el software libre implica que todo el proceso de escritura de las instrucciones (de programación) está documentado y es accesible para cualquier persona. Existen grandes bibliotecas de código (como Github o Gitlab) que son como un repositorio de recetas, donde están las originales y todas las variantes que se han ido cocinando a lo largo de la historia. De hecho, esta forma de programar ha permitido grandes avances y muchas comunidades científicas lo usan porque el progreso colectivo se basa más en el compartir que en el privatizar.

"No hay código sin cuerpos" dice Eurídice Cabañes, experta en derechos en el ámbito de los videojuegos: el código está atravesado por las estructuras de opresión que conforman nuestro sistema capitalista, es más realista pensar que la comunidad velará por combatirlas que no que lo hará Meta, Amazon o Google porque tienen un comité de ética… De hecho, los departamentos o comités de ética son válidos siempre y cuando no obstaculicen el modelo de negocio, como demuestra el despido de Timnit Gebru por parte de Google cuando ésta se negó a renunciar a publicar un informe que alertaba de los peligros de uno de los modelos de lenguaje en los que se basa Google.

El código reproduce esas estructuras de opresión y… pensémoslo sin código, sin lenguaje tecnológico, en la vida 1.0 quien lucha por revertir las injusticias económicas, ecológicas, racistas, machistas, coloniales, etc.… es la sociedad civil, los Estados recogen esas luchas sociales y las convierten en códigos jurídicos, leyes, inversiones etc. (esta es la mejor versión de la idea de Estado, lo reconozco). La empresa privada no suele jugar ningún papel o, si lo hace, es en dirección contraria: véase el sector inmobiliario y el derecho a la vivienda, las conquistas que ha habido no han venido precisamente de los fondos buitre, sino de colectivos, organizaciones, sindicatos de barrio que se han organizado para reclamar un derecho básico. El código abierto es, en definitiva, más democrático: permite que la comunidad ejerza un mayor control de los programas, plataformas que usamos, y también de los que se usan para almacenar y procesar nuestros datos. Así mismo, facilita el desarrollo de tecnología no basada en el beneficio económico, sino en la resolución de problemas, la experimentación, la autoorganización, la democracia. Y para lo que nos atañe hoy aquí, es un modelo que permite cortocircuitar la acumulación de poder. Podríamos decir que incluso podría ser un modelo redistributivo, con ayuda de la administración.

El software libre conjuga muy bien la idea de participación ciudadana en la gobernanza y el desarrollo del código, aunque si somos sinceras, no todo el mundo puede acceder y entender el código. Pero si activamos mecanismos de participación en el diseño de las funcionalidades, en los criterios de aplicación, en los tipos de garantías requeridas, en su uso y aplicación etc., sí que ha de poder implicarse todo el mundo, al margen de sus conocimientos. Así que el código abierto es una forma de mejorar la participación y es necesaria, pero no puede ser la única en lo que respecta a los mecanismos de IA.

En la actual distribución de fuerzas, para conseguir, promover una IA que distribuya poder, que sirva para quitarle privilegios a quienes los ostentan y ganar derechos a quienes han sido despojados de ellos, no puede dejar de entrar en juego el Estado, la administración pública. Por un lado, para marcar, afianzar el rumbo del desarrollo de la IA "en la buena dirección" y, por el otro, para financiar esa IA "del bien" (la de la República frente al Imperio). Es decir, no solo nos hace falta una regulación garantista en términos de derechos, que promueva el software libre y la filosofía opensource y que permita un control democrático y colectivo del código que nos afecta; así como de su uso e implementación, sino que también necesitamos inversión y liderazgo público. Se supone que, en el sistema de la democracia representativa en el que vivimos, el interés general se establece en, a través de las instituciones de las que nos hemos dotado. Ahora mismo, los caminos que ha de adoptar el desarrollo de la IA distan mucho de estar marcados por las instituciones democráticas de las que nos hemos dotado como sociedad. Habría que ver hasta qué punto eso contribuye a erosionar el contrato social sobre el que se sustenta la legitimidad de esas instituciones.

Necesitamos inversión pública, que sean las administraciones las que determinen qué tipo de IA queremos y necesitamos, que condicionen hacia dónde hay que "avanzar". Necesitamos una administración pública "moderna", cuyos representantes electos abren también las fronteras con la ciudadanía para codiseñar con ella esos horizontes de sentido que necesitamos en pleno siglo XXI. Hemos dejado en manos de la empresa privada la idea de innovación y acabamos teniendo instituciones que son rehenes de aquello que le interesa vender o desarrollar al mercado privado, instituciones que dejan en manos de grandes corporaciones el tratamiento de una infraestructura crítica como son los datos y que son incapaces de liderar. Los Estados tuvieron un fuerte papel de liderazgo en el desarrollo de la tecnología militar, nuclear, aeroesapacial, científica… ¿por qué no pueden jugar ese papel en la IA? Hoy en día, la tecnología está debilitando a los estados y las administraciones, pero estamos a tiempo de darle la vuelta a esa tendencia.

Siguiendo la filosofía de la campaña Public Money, Public Code; no solo la tecnología financiada con dinero público ha de ser de código abierto, sino que debe promover una gobernanza del código público–comunitaria. Es decir, que ese código colgado y disponible en uno de esos repositorios que hemos comentado antes esté custodiado por la administración y por la comunidad (esta puede estar compuesta por personas, entidades y empresas), que haya una gobernanza compartida de ese código, de esos algoritmos que atraviesan nuestros cuerpos. ¿Cómo no garantizar una gobernanza compartida, democrática de aquello que se basa en nuestros saberes colectivos, y en nuestros datos personales?

Frente a una Inteligencia Artificial "ética" en la que el establishment se siente cómodo e incluso promueve, trabajemos por una IA que recupere el liderazgo público en la gestión y promoción de las infraestructuras críticas del siglo XXI, que sea muestra de una administración que se renueva y que, de la mano de la ciudadanía, pone las bases para una sociedad más justa. Con menos privilegios para unos pocos y más poder para unos muchos. Inteligencia artificial al servicio de la inteligencia colectiva.