Entrevista a Marietje Schaake"La IA pone en riesgo las democracias tal y como las conocemos"

Ha advertido en numerosas ocasiones del poder de estas tecnológicas. En EEUU, ¿hasta qué punto de control han llegado? ¿Pueden (y deben) los estadounidenses temer por su democracia y su privacidad?

Sí, absolutamente, porque desde que escribí sobre el golpe tecnológico el empoderamiento de las empresas tecnológicas y el poder que han logrado no han hecho más que aumentar. Por un lado, hemos visto con toda la ola de la IA que han hecho más apuestas que impactan profundamente en el medio ambiente o los mercados financieros. Pero también existe una nueva sinergia, políticamente hablando, entre la Administración Trump y estas empresas.

Todo lo que me preocupaba en El golpe tecnológico se escribió con la esperanza de que Estados Unidos pudiera volver a contribuir a las salvaguardias democráticas, la supervisión y ser un mayor contrapeso. Y, por supuesto, ahora sabemos —y todo esto sucedió muy rápido— que la Administración Trump ha hecho lo contrario. Ha facilitado las inversiones en criptomonedas y la increíble apuesta, sin regulación ni legislación, de las empresas de IA. Es decir, regula por su cuenta por razones políticas. Ha adquirido participaciones en empresas y se ha asegurado de que sus aliados políticos estén bien atendidos, como cuando se revocó la licencia de TikTok en EEUU y luego se vendió a Larry Ellison. Pero eso no tiene nada que ver con fortalecer el interés público, el Estado de derecho ni la democracia.

¿Cuánta culpa tiene Trump? ¿No tienen también algo de responsabilidad administraciones anteriores de EEUU?  

Absolutamente. Esta es una crítica hacia los líderes del mundo democrático, sin importar a qué partido político pertenezcan. Aunque, por supuesto, la actual Administración estadounidense es extrema al permitir los deseos de líderes de Silicon Valley como Elon Musk, Peter Thiel, Mark Zuckerberg o Sam Altman. Los líderes políticos no aprecian la dinámica de poder detrás de estos desarrollos tecnológicos, no lo ven desde una perspectiva política y geopolítica. Y hay una verdadera instrumentalización de las empresas tecnológicas para juegos políticos y estatales. Si uno se pone en el lugar de un ciudadano común, el panorama es muy sombrío.  

Relacionado con este tema

Expertos internacionales respaldan la regulación de la IA frente a los tecno-oligarcas

EFE

El poder del dinero de las empresas en la política de EEUU es extraordinario

¿Cuánto poder e influencia real tienen estas empresas sobre los gobiernos de EEUU y Europa?  

En EEUU creo que vemos la influencia del sector privado integrada en las estructuras políticas, como las recaudaciones de fondos, así que creo que el papel del dinero de las empresas en la política estadounidense es extraordinario. Y no tenemos nada comparable en Europa. Pero tenemos otro tipo de influencia porque en Europa nos hemos vuelto tan dependientes de las empresas tecnológicas extranjeras, sobre todo estadounidenses, que a los europeos les resulta difícil imaginar cómo podría ser un futuro alternativo, porque lo perciben como una transición enorme, casi imposible.  
​
​Vemos movimientos de base, como universidades que buscan alternativas y desean dejar de usar tecnología estadounidense. Gobiernos como el holandés, en su acuerdo de coalición, han pactado que debemos tener soberanía digital. Existe una agenda de soberanía digital que emana de Bruselas. Creo que todos estos son objetivos estratégicos importantes, pero en última instancia lo que más importa es si se pueden lograr. Y en ese sentido, no creo que estemos avanzando con la suficiente rapidez. Europa está prácticamente estancada, mientras que Estados Unidos está redoblando sus inversiones. Europa debería forjar su propia posición y no limitarse a esperar a regular un nuevo equilibrio, porque creo que eso no es suficiente.  

Entiendo que en Estados Unidos pueda haber cierto interés por parte del Gobierno en proteger y alinearse con las tecnológicas, pero ¿por qué Europa no toma medidas más contundentes para protegerse?  

Creo que durante mucho tiempo en Europa nos dejamos llevar por la narrativa estadounidense de que la digitalización tenía principalmente ventajas. Y luego, cuando se reconocieron las desventajas, se optó por utilizar la regulación como principal herramienta para abordar esta preocupación. Y, por supuesto, regular para proteger la privacidad, la ciberseguridad o la competencia es legítimo e importante. Pero creo que ahora hemos comprendido que no basta con crear una posición de fuerza y poder en la Unión Europea. En parte se trata de aprender lecciones, lecciones dolorosas, y en parte de una interpretación diferente de la situación. Otro factor es que la UE está organizada de manera que busca armonizar el mercado interior y proteger los derechos de los ciudadanos, pero no permite la intervención europea por motivos de seguridad nacional. Si analizamos qué impulsa muchas decisiones, inversiones, controles de exportación e intervenciones en Estados Unidos y China, vemos que son precisamente los objetivos de seguridad nacional. Europa está básicamente diseñada de una manera diferente y ha tomado decisiones distintas, menos centradas en ese poder hegemónico que muchos esperaban que fuera cosa del pasado tras la caída del Muro de Berlín y de la Unión Soviética. Pero aquí estamos, en un mundo donde la política y las agendas hegemónicas han vuelto con fuerza, y la tecnología juega un papel cada vez más importante en esa visión del mundo y en esa búsqueda de poder.  

¿Cómo pueden los gobiernos recuperar este poder perdido? ¿Es posible?  

Creo que es muy posible. Creo que muchos gobiernos individuales están dispuestos, pero necesitamos ver una dirección común, más voluntad política y más acción de la que hemos visto hasta ahora.  

Relacionado con este tema

La pornografía 'deepfake' contra las mujeres políticas se extiende por Europa: "Es una manera de disciplinarnos a todas"

María Martínez Collado

Mucha IA discrimina a las minorías y no lo estamos tomando suficientemente en serio

¿Cuál de las empresas tecnológicas considera más peligrosa y por qué?  

Palantir es una empresa muy influyente porque está en el centro del Gobierno y tiene acceso a gran cantidad de datos confidenciales. Está dirigida por un director ejecutivo que ha vinculado por completo el propósito de su empresa a la fortaleza y la supervivencia de Estados Unidos. Estas alianzas se han repetido tras la llegada de Trump al poder. De hecho, creo que Alex Karp las ha reforzado aún más. Así que, teniendo esto en cuenta (y esto es algo que se suele decir abiertamente), hay que preguntarse qué significa para los clientes en Europa o en otras partes del mundo, ¿verdad? Y creo que es peligroso por el tipo de datos sensibles a los que tiene acceso, combinado con la agenda política del director ejecutivo. Pero también creo que empresas como OpenAI son peligrosas de otras maneras. Las apuestas, las decisiones y los valores en los que OpenAI basa sus acciones impactan cada vez a más personas en todo el mundo en su vida diaria. Creo que mucha IA, ya sea de grandes o pequeñas empresas tecnológicas, ha demostrado discriminar a las minorías, y no lo estamos tomando suficientemente en serio. El hecho de que las personas de piel negra, las mujeres, las minorías lingüísticas, culturales o étnicas sean tratadas con mayor frecuencia de forma más desfavorable, ya sea mediante el reconocimiento facial o la evaluación de oportunidades laborales, es absurdo. Es ilegal en la mayoría de las Constituciones democráticas, y aun así lo permitimos.  

¿La IA pone en riesgo las democracias tal y como las conocemos?  

Sí, creo que están en riesgo. Por varios factores, pero la tecnología juega un papel importantísimo en este riesgo.