Entrevista a Ulises Cortés"La IA pot ajudar en la regulació de l'habitatge, però això xoca amb els interessos dels qui financen les aplicacions"

Tant si plou com si neva, sentim a parlar d'Intel·ligència Artificial (IA) diàriament. Encara que va néixer fa més de 60 anys, les aplicacions que deriven d'aquesta "disciplina científica" —com diu el catedràtic d'IA a la UPC Ulises Cortés (Mèxic, 1960)— han irromput amb força en la nostra vida quotidiana i protagonitzen constantment debats polítics i filosòfics. Com ens poden ajudar a prendre decisions o a resoldre reptes socials? Qui financia la seva investigació? Estan prou regulades? Quin impacte mediambiental tenen? En parlem amb l'expert mexicà, que rep a Públic al seu despatx al Campus Nord de la UPC de Barcelona.

A banda de ser catedràtic des de 2006, Cortés és un referent internacional i dirigeix des de 2017 el Grup d'Intel·ligència Artificial d'Alt Rendiment del Barcelona Supercomputing Center (BSC). La seva investigació està centrada en la "formació de conceptes en sistemes basats en el coneixement, així com l'aprenentatge automàtic i els agents intel·ligents autònoms", segons la seva descripció al BSC. Va ser nomenat doctor honoris causa el 2023 per la Universitat de Girona (UdG).

Més enllà d'aplicacions àmpliament conegudes, com el ChatGPT, que ja formen part del nostre dia a dia, de quines altres maneres la IA està present en la nostra vida quotidiana? En quins àmbits ens facilita les tasques o millora la nostra societat?

És present en el nostre dia a dia des de fa 20 anys. Fas servir una targeta de crèdit? Compres en portals en línia? Reps recomanacions sobre què comprar?

Sí. És clar, els algoritmes també són IA.

La IA és una disciplina científica que cal distingir de les seves aplicacions. Igual que la física, busca resoldre preguntes fonamentals. A través de la investigació, es generen resultats que després es poden aplicar. L'objectiu de la IA és comprendre la intel·ligència animal —ni tan sols la humana— i determinar si es pot reproduir en una màquina. Per fer-ho, cal programar i fer servir algorismes, que, en general, són el motor de totes les ciències computacionals.

La IA no és nova, però s'ha popularitzat fa relativament poc.

Va néixer el 1956 [el científic i informàtic John McCarthy va emprar el terme per primera vegada en una conferència a Darmouth]. S'utilitza en multitud d'aplicacions, la diferència està en la potència de les màquines. Des del punt de vista computacional, la IA es va desenvolupar gairebé al mateix temps que la computació moderna. Quan Alan Turing [el matemàtic que va desxifrar els codis nazis enviats amb la màquina Enigma] es preguntava si les màquines podien pensar, poc abans del naixement de la IA, aquestes eren encara molt senzilles. De fet, el teu ordinador és 10.000 vegades més potent que la màquina que va portar l'home a la Lluna.

Un ordinador actual és 10.000 vegades més potent que la màquina que va portar l'home a la Lluna

Insisteixo, la manera com anomenem les coses pot portar a malentesos. La IA és una disciplina, com la física o la biologia, i té aplicacions, que són les que veiem als ordinadors.

Aplicacions que s'utilitzen en molts àmbits, com ara la sanitat o l'educació.

Allà on hi hagi un xip, s'hi poden executar programes. Un metge o un policia, per exemple, disposa d'un terminal amb programes específics que li proporcionen suport en la presa de decisions. Cal deixar-ho clar: es tracta d'un suport, no d'un sistema que decideixi per ell. Aquests programes processen dades i informació per generar un resultat que l'usuari pot interpretar.

Aleshores per què la IA genera tan debat actualment?

En els darrers 15 anys s'ha abaratit la computació, ha augmentat la capacitat de generar informació i, sobretot, ha canviat la manera de finançar la investigació. Fins a principis del segle XXI, eren principalment els governs —sobretot, el d'Estats Units— qui finançaven la recerca en IA. Però a partir de l'11-S, es demana a les companyies privades que incrementin la seva inversió perquè es flexibilitzen totes les lleis de protecció de la privacitat. Neix el Patriot Act, que dona permís a les empreses per accedir a dades personals i sensibles de tots els ciutadans del món, no només dels nord-americans.

En pro de la seguretat.

Entre cometes, és clar. La seguretat del paradís americà. Aquesta llei havia de servir per protegir del terrorisme, però de sobte apareixen un munt de companyies com Facebook o Twitter que ofereixen serveis gratuïts de comunicació arreu del món. Hi vertim dades constantment, i elles processen informació sobre nosaltres. És més, generen coneixement sobre nosaltres.

Ha quedat clar que les aplicacions de la IA són una eina que pot beneficiar les empreses privades, però també poden ser utilitzades per prendre decisions sobre polítiques públiques. Com pot ajudar-nos, per exemple, a afrontar grans reptes socials com l'accés a l'habitatge?

Poden ajudar a optimitzar els recursos per regular-lo, però això xoca amb els interessos privats de les empreses que financen aquestes mateixes aplicacions. A grans tenidors de propietats com Amancio Ortega o companyies com Google no els interessa que l'habitatge es reguli de manera òptima, ja que, a banda, són els amos dels avions, dels Airbnbs, etc. No es paguen impostos, es deterioren les ciutats i es produeix gentrificació. S'ha produït una extracció massiva de capital de les ciutats, que s'han beneficiat molt poc del turisme massiu que inverteix poc. D'altra banda, s'ha generat un desplaçament de població i una gran precarietat entre els joves.

La IA pot optimitzar recursos per regular l'habitatge, però això xoca amb els interessos de les empreses que financen les aplicacions 

S'ha regulat l'ús que poden fer les grans companyies de la IA?

S'ha creat l'Artificial Intelligence Act, una regulació europea que intenta uniformar tota la legislació dins l'espai Schengen. Per a Google, era molt més fàcil atacar quan la legislació estava fragmentada entre molts països. Però unificada, és molt més potent, com ja va passar amb la llei de Protecció de Dades. Si t'hi fixes, una dels primeres accions de l'administració Trump va ser derogar totes les restriccions sobre privacitat i ús de dades en territori americà. Si les teves dades viatgen cap als Estats Units, ja no estaran protegides. A més, s'ha demonitzat molt la Xina, acusant-la de ser una tirania. Ara tenim un problema que ha deixat de ser estrictament econòmic per convertir-se en geopolític.

Qui controli la IA controlarà el món?

Això ho va dir Putin el 2017. Qui controli les aplicacions, controlarà el món. És difícil controlar la ciència. El que sí és cert és que els governs i els empresaris europeus no han invertit tant en IA com els americans, que hi veuen més guanys perquè no hi ha tanta regulació.

Vostè fa un parell d'anys va firmar una carta oberta que reclamava frenar la "carrera sense control" de les aplicacions de la IA.

Sí. Per fer una analogia: molts científics han demanat que s'aturin els experiments nuclears i la producció d'armes, però ningú demana que s'aturi la física. També hi ha geopolítica i perills. És molt alarmista i té molt de ganxo publicitari dir que la IA acabarà amb la humanitat, com ho podria fer una bomba atòmica, però no estem en aquest punt de destructivitat. Tot i això, sí que hi ha aplicacions que poden ser perjudicials. Europa reclama una IA de confiança, que respecti la privacitat, sigui justa i responsable amb la sostenibilitat del planeta.

És alarmista dir que la IA acabarà amb la humanitat, com ho podria fer una bomba atòmica

Parlant de sostenibilitat, totes aquestes dades necessiten un espai on emmagatzemar-se. Quin impacte ambiental pot arribar a tenir això?

Hauries de veure els centres de dades que hi ha a l'Aragó i a Madrid. T'hauries de preguntar per què, en llocs amb estrès hídric i manca de producció energètica, els governs locals permeten la instal·lació d'aquests centres i els hi concedeixen beneficis fiscals. Una cosa és construir un centre de dades del Govern i utilitzar-lo pel bé comú, però una altra és cedir terrenys, aigua, electricitat i quota de carbó a companyies privades que, a més, no paguen tots els impostos que haurien de pagar. És terrorífic. Això podria passar demà a Catalunya.

Relacionado con este tema

Bellvitge integra una eina d'intel·ligència artificial inèdita que personalitza el tractament de l'esclerosi múltiple

Públic

No hi ha consciència sobre els recursos naturals que es consumeixen.

Cada pregunta que se li fa al ChatGPT costa l'equivalent a una làmpada de 40 watts encesa durant una hora i sis litres d'aigua. S'estima es fan 200 milions preguntes al dia a Open AI i mil milions als cinc models d'IA generativa de text més grans del món. Tu per a què la fas servir?

Per a traduir, va bé.

Cada ciutadà és responsable del que fa i de saber si cal utilitzar-la, per exemple, a la feina, per ser més ràpid o eficient. És realment necessària aquesta velocitat? Hem de distingir entre l'automatització de processos repetitius i amb poc contingut humà i tasques creatives com la traducció o la interpretació. Si entenem la tecnologia i els seus efectes, la farem servir de manera responsable. I quan comencin a cobrar-la, què? Es crearà una bretxa. Necessitarem la màquina, l'Internet i diners per pagar el servei.

El científic Salvador Macip va afirmar en una entrevista amb 'Públic' que la IA no pot generar dades noves, només fa "refregits" d'informació existent. Estàs d'acord amb aquesta visió? Quin és el veritable abast creatiu de la IA?

Les màquines d'IA generativa utilitzen dades preexistents. Podria consumir tot el que hi ha digitalitzat, sí. Una altra cosa és que el tipus de raonament que utilitzen les màquines no és com l'humà. És estadístic o probabilístic, però no té intuïció, empatia ni moltes altres característiques que els humans desenvolupem a través de l'esforç, l'observació i la interacció amb altres persones. La IA tindrà unes capacitats de resposta, però no tindrà intenció. Estem intentant crear màquines amb intencions, desitjos i metes.

Quin és l'objectiu de crear una màquina amb desitjos o metes?

Hauríem de preguntar-nos primer per què els nets no tenen cura dels seus avis. Davant aquesta situació, hi ha dues opcions: o contractes una persona o bé compres un robot perquè faci aquesta feina. Passa el mateix amb les persones amb discapacitat que són dependents. Necessitem produir riquesa perquè hi hagi impostos i puguem pagar les pensions. Però cada vegada hi ha menys fills. Aleshores, qui ho farà? Rebem immigrants. Ah, espera, que no agraden perquè són estrangers. Doncs fabriquem robots perquè substitueixin una persona i paguin impostos. Les necessitats que genera la societat, volgudes o no, es poden cobrir amb la IA. Una altra cosa és que es vulgui fer.

La transformació tecnològica és rapidíssima. Com podem regularitzar-la al mateix temps que avança?

No es pot. Per això, en l'estratègia catalana d'IA, vaig proposar que tots els professors de primària i secundària fessin un màster en tecnologies. Ja que els pares són analfabets digitals, necessitem que algú eduqui els fills. És l'única manera que aquesta nova "caixa negra" estigui fonamentada en coneixements. És mentida que hi hagi "nadius digitals". Tindran més avantatges perquè els instruments ja hi són i utilitzen la tecnologia, però no la comprenen.

És mentida que hi hagi 'nadius digitals'.  Utilitzen la tecnologia, però no la comprenen

El canvi ens ha agafat resolent altres problemes i a algú li ha interessat que la tecnologia no sigui una prioritat. La creativitat es promou molt, però les carreres tecnològiques cada vegada són menys demandades i tenim un dèficit de professionals en aquest sentit.

Podem imaginar cap a on evolucionarà la IA?

Sí. En els pròxims 10 anys, disminuirà l'expectació sobre tot allò generatiu i el deep learning, i tornarem a la IA més tradicional. És molt difícil trobar una aplicació basada en l'aprenentatge automàtic o els models massius de llenguatge que generi diners o que es pugui fer servir en situacions crítiques perquè encara cometen molts errors.