En el seno de la Comisión Europa (CE), dentro del área de Mercado Único Digital, ha nacido la Alianza Europea de la Inteligencia Artificial (IA). Se trata de un foro abierto, alojado en la plataforma Futurium de la CE, que persigue discutir todos los aspectos relacionados con el desarrollo de la IA y su impacto en la sociedad. Será el año que viene cuando celebre su primera Conferencia Anual para todas las personas asociadas, esperando que para entonces se cuente con una notable representación de empresas, organizaciones de consumidores, sindicatos y otros representantes de organismos de la sociedad civil. ¿Se están dando los pasos correctos?

Entre los asuntos centrales que aborda el foro destacan dos, en los que también participa el Grupo de Expertos de Alto Nivel en Inteligencia Artificial, ejerciendo de grupo directivo : por un lado, las directrices éticas de la IA y, por otro, cómo garantizar la competitividad de la UE en este campo n el que superpotencias como EEUU, China y Rusia están absolutamente volcadas. Del más de medio centenar de personas que componen el Grupo de Expertos de Alto Nivel, únicamenta hay dos españolas y, ambas, son mujeres: Cristina San José, jefe de Estrategias de Datos del Grupo Santander; y Lorena Jaume-Palasí, directora ejecutiva de AlgorithmWatch.

Aquí llega lo que parece una buena noticia: AlgorithmWatch es una organización sin ánimo de lucro que evalúa y arroja luz sobre procesos algorítmicos y de automatización que tienen una relevancia social. Hablando en plata, que las máquinas y los algoritmos que los seres humanos implantan en ellas se porten bien.

Hace relativamente poco tiempo destacábamos en este espacio los peligros que puede entrañar la IA, cómo los procesos de automatización que se persigue con los algoritmos pueden derivar en discriminación o, incluso, convertirse en arma. Jaume-Palasí tiene un amplísimo currículum a sus espaldas, participando en nuestro país dentro del Consejo de Sabios de Inteligencia Artificial y Política de Datos. En suma, una eminencia en la materia a la que se debería prestar atención.

Un simple vistazo al manifiesto de su ONG sirva para evidenciar que la toma de decisiones algorítmica nunca es neutral, descansado la responsabilidad del resultado, no en la máquina o el sistema, sino en el creador del algoritmo. El manifiesto es tajante al indicar que esta toma de decisiones basadas en algoritmos siempre han de ser lo suficientemente inteligibles para rendir cuentas al control democrático. No cabe otra para esta experta en IA que, además, es una enemiga de esa creciente tendencia a antropomorfizar a las máquinas.

La búsqueda de la similitud de las máquinas con los seres humanos no es necesariamente positiva y, además, abren interesantes debates que ya han comenzado a plantearse en países como EEUU. Allí, expertos jurídicos acaban de poner encima de la mesa el siguiente supuesto: ¿Qué sucedería si alguien le confiriera la cualidad de persona jurídica a un sistema informático al hacerle responsable de una Sociedad Limita? Los expertos, aseguran que, con la ley en la mano, existen suficientes lagunas como para que ésto sea posible en EEUU, lo que significaría que un sistema de IA podría, por ejemplo, difrutar la libertad de expresión, demandar a terceros o poseer propiedades, entre otros atributos.

Hay quien diría que lo que se aparece aquí es ficción o una visión demasiado catastrofista de la Inteligencia Artificial, cayendo en el tópico de robots que terminan por volverse contra sus creadores. No es esa la intención, pero sí alertar sobre caminos que se han iniciado y que, quizás, no conducen a nada bueno. A fin de cuentas, lo sucedido en Arabia Saudí el año pasado, ¿no parecía ficción o una fake new de mal gusto?