Víctimas del fetichismo digital

Corría el año 1867 cuando Karl Marx publicó su primer volumen de El capital. Casi 160 años después, podemos afirmar sin temor a equivocarnos, que el tipo era un genio. En su obra detalló el concepto de ‘fetichismo de la mercancía’, en referencia a que las personas terminamos dando tanto valor propio a los productos que nos olvidamos de las personas mismas y de las relaciones sociales de trabajo que realmente están detrás de ese valor. Eso mismo está sucediendo hoy en día con la tecnología y, especialmente, con la Inteligencia Artificial (IA). Qué bien lo sabe hacer el capitalismo y con qué facilidad terminamos siempre siendo sus víctimas.

La IA generativa amenaza millones de puestos de trabajo, como hemos constatado esta semana con los 11.000 despidos de Konecta, el mayor call center de España; es una amenaza para todos los procesos creativos y los grandes centros de datos que precisa para su funcionamiento son trituradoras de recursos naturales esenciales. Tal y como indica una de las voces más críticas, la investigadora principal sénior en Microsoft Research y profesora de investigación en la Universidad del Sur de California en Annenberg, Kate Crawford, el ritmo de consumo de la IA es tal y crece tan rápido que ya compite directamente con los humanos por recursos básicos como la tierra, la energía, los minerales y el agua dulce.

Pues bien, a pesar de ello -y de la encíclica papal-, el capitalismo ha conseguido que el fetichismo por la IA se extienda como la pólvora. No hay día que no vea en redes sociales anuncios de profesionales autónomos ofreciendo sus servicios con carteles diseñados con IA, sin pensar que esa IA arrebata el trabajo a un creativo cuyos diseños, seguramente, sirvieron para entrenar sin permiso a ese sistema de IA. Incluso las Administraciones Públicas caen en la trampa, infringiendo derechos de autor como recientemente denunció el dibujante Paco Roca.

Relacionado con este tema

Más infraestructuras, uso de IA por los Mossos y Palantir: los retos de la soberanía tecnológica de Catalunya

Oriol Daviu

A este respecto, en un lúcido artículo en la revista australiana Arena, el investigador del CSIC (Consejo Superior de Investigaciones Científicas) César Rendueles apuntaba que "la realidad de la economía del conocimiento, en la que la mayoría de los gobiernos occidentales han depositado sus esperanzas de crecimiento y prosperidad, se caracteriza por la sobreexplotación, la especulación financiera y la concentración monopolística". A pesar de ello, precisaba, "la percepción general del potencial de la tecnología digital es abrumadoramente optimista". Lo escribió hace 10 años y no puede estar más vigente pese a los desmanes sufridos.

Urge combatir ese fetichismo digital y plantearse qué hay detrás de esta vorágine de IA en la que nos han sumergido. No es necesario profundizar demasiado para constatar que son muy pocos quienes se están beneficiando de esta burbuja en la que, ni siquiera quienes crean los modelos de IA son los que sacan mayor tajada, con excepciones como Anthropic. Como sucedió en la fiebre del oro, el negocio está en quien vende las palas y, en este caso, son fundamentalmente las grandes constructoras de centros de datos, como Amazon, Google, Meta, Microsoft u Oracle, por ejemplo, así como la omnipresente Nvidia, que acapara cerca del 90% del mercado de chips necesarios para que funcione la IA.

"Los sistemas de IA se construyen con la lógica del capital, la política y la militarización, y esta combinación amplía aún más las asimetrías de poder existentes", sostiene Crawford, reflexión que nos lleva inevitablemente al neofascista Peter Thiel, director general de Palantir, y su concepción de la democracia como algo imprescindible supeditada a su videovigilancia.

Esta experta llama la atención sobre una cuestión que en este espacio ya hemos abordado a la hora de describir el doble juego que practica Dario Amodei, director general de Anthropic. Se trata de la mezcla de discursos distópicos y utópicos al mismo tiempo, de manera que simultáneamente la IA aparece como la solución a todos los problemas y como el mayor peligro que se cierne sobre nosotras y nosotros. Sin embargo, tal es el fetichismo digital y su calado social, que distrae de una reflexión profunda que destape este cóctel bipolar.

La alarma por el modo en que la IA devora energía y agua parece estar abriendo una brecha en este fetichismo, pero no lo suficiente para que su consumo haya dejado de ser masivo. Cosa muy diferente sucede a la hora de pensar en las relaciones sociales que hay detrás de la IA, que siguen pasando inadvertidas. La realidad camuflada como consecuencia del fetichismo digital en el que estamos sumidos y sumidas, nos va a terminar cobrando una factura muy cara. El daño comienza desde la más tierna infancia, provocando retrasos cognitivos que, al fin, comienzan a ser denunciados, como recientemente ha hecho el Defensor del Pueblo.

En cuanto al trabajo, más allá los puestos que se destruyan o de la flagrante violación de derechos de autor que se comete, es importante denunciar una nueva economía de explotación surgida detrás de los modelos de IA. Tal y como expone la científica estadounidense Melanie Mitchell en su libro Inteligencia Artificial, guía para seres pensantes (Capitán Swing), la IA precisa del etiquetado de grandes conjuntos de datos para funcionar recurriendo a servicios de explotación como el Mechanical Turk de Amazon. Personas vulnerables, mayoritariamente del Sur Global, con jornadas maratonianas por menos de 2 dólares a la hora.

Esta voracidad de datos por parte de la IA, lleva a que haya terminado consumiendo ingentes cantidades de datos sintéticos, que ponen en riesgo nuestra privacidad y, además, produciendo lo que Crawford denomina "autofagia de la IA", comparándolo con el trastorno del metabolismo celular que altera el funcionamiento de la célula o, incluso, se daña a sí misma. La investigadora advierte que la IA depende cada vez más de sus propios datos sintéticos, buena parte de ellos considerados basura de IA que no ha pasado la debida verificación y termina por extender desinformación, con consecuencias desastrosas para todo el mundo alienado por la IA.

Cuando Rendueles escribió su artículo, apenas había podido ser testigo de cómo la desinformación digital impacta en los procesos electorales, y destacó que, incluso "la extrema izquierda", está convencida de que "internet y las redes sociales son cruciales para resolver todo tipo de problemas culturales, económicos, ecológicos o educativos".

Ese "refugio narcisista", como lo llamó el investigador del CSIC, nos ancla aún más a la madriguera digital y dificulta romper con el tecno-fetichismo, puesto que quienes lo impulsan, no son precisamente progresistas. Nadie como la derecha, neoliberal por naturaleza, se ha valido de internet, las redes sociales y la IA para dañar las democracias y vulnerar derechos humanos, sencillamente, porque suyas son las plataformas. “La tecnología se ha convertido en una especie de ortopedia social”, indicó Rendueles, poniendo el foco en cómo la tecnología ha amplificado el modo en que el neoliberalismo dinamitó a nivel mundial tanto los restos de los compromisos sociales como las herramientas de intervención política de las que la modernidad se había valido para resistir el torbellino mercantil.

Cuanto antes escapemos del fetichismo digital, más sólida será nuestra posición para abordar esta amenaza que la tecnología no ha debilitado, solo ha hecho que nos importe menos. El activismo de clic de ratón es mejor que la pasividad o la indiferencia, pero nunca debemos olvidar que hacer cosas al mismo tiempo no es lo mismo que hacerlas juntos.