Pompeu Casanovas i Marta Poblet: “La IA s’ha convertit en una cursa d’armes geopolítica”

Pompeu Casanovas és professor d’investigació en IA, ètica i dret del IIIA-CSIC. És doctor en Filosofia i en Antropologia jurídica. Entre 2012 i 2021 va treballar com a investigador a la Universitat de Victoria, Deakin, Royal Melbourne Institute of Technology (RMIT) i com a catedràtic d’investigació a La Trobe University (Austràlia) on és catedràtic adjunt. Ha participat en més de 50 projectes d’investigació i és autor o editor de més de 200 articles d’investigació i 30 llibres. El seu camp d’investigació es concentra al voltant dels processos d’informació i models regulatoris per la Web de Dades Enllaçades i Internet de les Coses. També és fundador de l’Institut de Dret i Tecnologia de la Universitat Autònoma de Barcelona (IDT-UAB), on ha estat professor titular i on és ara investigador vinculat.

Marta Poblet és actualment Directora de Recerca a The Data Tank (think tank a Brusel.les) i catedràtica adjunta a la Universitat RMIT (Melbourne, Austràlia). Ha estat investigadora i catedràtica a temps complet a la Graduate School of Business and Law del Royal Melbourne Institute of Technology des del 2013 fins al 2024. És co-fundadora de l’Institut de Dret i Tecnologia de la Universitat Autònoma de Barcelona (IDT-UAB) i del Blockchain Innovation Hub a Austràlia (RMIT University). Els seus interessos de recerca cobreixen diferents àrees en la intersecció del dret, les ciències polítiques i la tecnologia, amb un focus en les dades, la IA, les tecnologies digitals distribuïdes  i les diferents teories de la democràcia i la ciutadania. Ha estat investigadora principal de nombrosos projectes de recerca nacionals i internacionals i ha publicat més de 80 articles científics i capítols de llibres sobre aquests temes.

El dimarts, 8 d’abril, en el marc del festival VilaPensa Pompeu Casanovas i Marta Poblet protagonitzaran el diàleg “Formes polítiques i intel·ligència artificial: què està passant?”

El VilaPensa enguany reflexiona al voltant del Jo Trencat. Amb la irrupció de la Intel·ligència Artificial (IA) els ciutadans hem perdut el control del jo?
Pompeu Casanovas: No, de cap de les maneres. La consciència és un dels temes més difícils d’explicar des del punt de vista científic perquè cada un de nosaltres, cada cervell, té un jo individual propi que és diferent de qualsevol altre i no només per una qüestió genètica, sinó perquè incorpora totes les xarxes neuronals i tot el que hem construït al llarg de la vida. El fet que cadascú de nosaltres siguem individuals fa que la regulació completa de la societat sigui difícil i plàstica: no hi ha dues societats iguals, no hi ha dos individus iguals. La IA implica una transformació cultural i civilitzatòria, el que provoca és un canvi al qual ens hem d’adaptar (ja ho estem fent) individualment i col·lectivament. És una transformació que s’ha de fer seriosament, però no s’ha d’exagerar. Els individus som molt més difícils d’explicar i molt més complexes que qualsevol model d’IA existent.

: La humanitat ha evolucionat amb la tecnologia que ha produït. Més que perdre el control del jo, diria que el jo evoluciona amb la tecnologia que produeix, és el que ens fa humans. Si en aquesta generació una de les tecnologies prevalents és la  IA, és normal que evolucionem en paral·lel a les eines que creem. És una relació molt dinàmica la que es produeix i el que seria potser poc realista seria pensar que ni evolucionem amb la tecnologia, ni guanyem o deixem de perdre control.

D’acord, però alguna vegada la tecnologia ha estat tan complexa i tan concentrada en mans de tan pocs com actualment?
MP: És cert que qualitativament la IA introdueix un aspecte nou que altres tecnologies prèvies no tenien i que és l’autonomia, la capacitat de prendre decisions sense que els humans hi participin. En aquest sentit, potser hi ha la preocupació per la pèrdua de control de l’humà o del jo. Ara bé, no estem en una situació d’inevitabilitat, continuem tenint el control de decidir què fem amb aquestes tecnologies, fins on volem que arribin i com han d’estar al nostre servei i no nosaltres al seu.

PC: Des del punt de vista tècnic, el que es planteja són els nivells d’autonomia que un programa pot tenir per decidir autònomament, sense intervenció humana. Generalment, s’estableixen de forma consensuada 5 nivells d’autonomia diferents i a l’últim, que s’anomena Intel·ligència Artificial General i que és un model amb capacitat de reflexionar sobre si mateix i de tenir consciència, no s’hi ha arribat, ni s’hi arribarà en molt temps, perquè no sabem ben bé encara com un ésser humà pren les decisions. Per tant, els nivells d’autonomia són nivells de tractament i de processament de la informació. Pel que fa a si hem de tenir por i si hi ha un risc general de destrucció, la resposta és que sí, el risc existeix i l’han vist tots els científics que ho han estudiat, però és un risc molt petit. En realitat la por que tenim és la de sempre: què pot passar amb tot això estant en poques mans, qui ho utilitza, qui són aquestes grans corporacions de milers de milions de dòlars que el que fan és imposar les seves formes tant de conducta, com d’actuació i de consum a la resta de la humanitat. És això el que hem de témer, la concentració en poques mans i la capacitat d’un poder que és augmentat per la IA, un poder de realitat augmentada, si se’m permet la metàfora.

En un món tan hiperconnectat, on les nostres dades són recollides des de diferents plataformes i mitjans, sovint sense ser-ne massa conscients, com podem preservar-nos-en? Com podem assegurar-nos que les decisions que prenem són realment lliures i no estan esbiaixades per algoritmes interessats? Ens hem d’aïllar?
MP: No crec que ens hàgim d’aïllar, els humans som socials i la tecnologia això no ho canvia, més aviat ho ha exacerbat, les xarxes socials han portat a una hipersocialització que no existia abans. En aquests context, per preservar les nostres dades i la individualitat el que falta, en primer lloc, és molta educació -i des de ben petits- sobre l’ús responsable de les tecnologies digitals. La gent ha de ser conscient que només pel fet de tenir un telèfon estem generant un flux incessant de dades molt diverses. Hi ha microdecisions que podem prendre, algunes de més passives, com autoritzar i limitar l’ús de dades, i d’altres de més actives, com el tipus d’eines que s’utilitzen (pots fer servir WhatsApp, que pertany a una gran corporació, o Signal que és una empresa molt més petita amb una consciència molt més gran de la privacitat).

PC: Hi ha un aspecte tècnic que s’anomena digital twins i que vindria a ser una mena de rèplica digital d’una persona o entitat, com un avatar. Quan anem a fer qualsevol gestió a l’administració es crea una entitat que és la teva entitat digital, qui ets tu a la xarxa, qui ets tu per l’administració, com accedeixes als teus drets, etc. Tots aquests aspectes tan quotidians i senzills, a la xarxa i des del punt de vista de la IA o de la web, generen un digital twin, una entitat digital. I aquí el que és realment important és tenir consciència de la necessitat de controlar aquesta identitat digital que, per altra banda, tots fem servir i que cada vegada està més estesa. Un no recorda cada vegada que entra a la xarxa i fa un m’agrada o expressa una opinió, però Internet sí. Tota aquesta informació queda registrada en algun lloc i si es va unint es crea una rèplica que pot ser utilitzada per a moltes coses. Això passa i és el que hem de controlar.

Es pot controlar de manera efectiva tota aquesta generació de dades?
MP: Sí, la IA no és diferent de qualsevol altra tecnologia, de fet ja fa anys que s’ha iniciat aquest procés de regulació i hi ha un gran esforç per fer-ho tant des dels estats com des de les entitats supraestatals. Però és també un procediment complex i amb diferents capes (regulacions ètiques, bones pràctiques, principis…) a abordar per arribar a la regulació en sentit més estricte, que és la legislativa. De fet, a Europa s’acaba d’aprovar la Llei d’Intel·ligència Artificial i hi ha també un codi annex a la llei a la llei que regula els models de llenguatge, el que cal veure és com s’apliquen tots aquests marcs reguladors.

PC: Aquesta llei, que en realitat és un reglament, es començarà a implementar a l’agost a tots els països de la UE, a l’Estat Espanyol existeix ja l’AES (Agència Espanyola de Supervisió de la IA) i es preveu que tots els països europeus en tinguin i es coordinin amb Brussel·les. Les multes que contempla la llei europea de IA per a les corporacions i empreses que facin un mal ús de la IA poden arribar a 35 milions d’euros o al 7% de la seva facturació global. És a dir, poden ser multimilionàries. Tot això ha provocat un conflicte entre Europa i EUA que és on estan les grans empreses. Europa està intentant fer un esforç molt gran per controlar el que es pot fer amb la IA i el que no s’hauria de fer, però els EUA ho regulen de forma diferent, menys constrictiva. Hi ha països on el liberalisme és molt més gran i les grans empreses ja han utilitzat totes les dades que estaven a Internet, privades i no privades, per alimentar els seus models.

Per tant, arriba tard la regulació?
PC: El tema important és què han agafat de tu, com amb el teu coneixement construeixen un altre coneixement. És això el que s’està intentant controlar. Moltes vegades quan discutim aquests temes no es diu, o no es té en compte, que la IA genera un tipus de coneixement amb dades  sintètiques que és opac i que no hi ha manera de traçar fins al final. Si acceptem aquesta realitat, ens adonem que només a partir de la IA podrem controlar la IA. Hem de fer-ne un ús responsable. És ingenu pensar que nosaltres podem controlar la IA sense fer IA, hi ha d’haver una simbiosi entre el que és la intervenció humana de control i els programes de control dels mateixos programes. El que estem intentant aprendre i treballar és com conjugar a diferents nivells la IA simbòlica i generativa amb les decisions  humanes. Es tracta d’una realitat híbrida, entre humans i màquines.

Darrerament, s’han encunyat nous termes com tecno-feixisme, totalitarisme tecnològic… Quin ha estat l’efecte que ha provocat en l’àmbit polític la irrupció de la IA?
MP: LA IA s’ha convertit en una cursa d’armes geopolítica, és evident. A Europa recentment s’han publicat dos informes força demolidors que confirmen aquesta tesi: l’Informe Draghi, el qual apunta que cal molta més inversió de la UE en IA perquè hi hagi, per exemple, factories d’IA; i l’Informe EuroStack que va en la mateixa línia i indica que Europa ha quedat enrere en la cursa de la IA i d’infraestructures digitals i que cal revertir-ho. Europa, per exemple, consumeix el 20% dels microxips, però només en produeix el 10%. La UE no és un jugador de primera fila en el context geopolític, és un jugador que intenta atrapar els altres.

És reversible la situació d’Europa?
MP: Es parla de la sobirania digital, és a dir, de consumir xips produïts a Europa, de crear models de llenguatge oberts i fets des d’Europa i seguint la regulació europea, cosa que generarà models més respectuosos amb els drets fonamentals i les llibertats democràtiques que els models que ens vinguin de fora. Tot això sobre el paper està molt bé i són aspiracions que no aixequen discrepàncies, tanmateix, les receptes que es donen són solucions que no estan adaptades al segle XXI. La IA a Europa no emergirà perquè s’hi aboquin milions d’euros acceleradament per atrapar altres regions mundials, la innovació emergeix de la base, des de les ciutats, des de les regions, des de les petites i mitjanes empreses… Cal revisar l’euro-estat i permetre que flueixi la innovació des de regions i ciutats que ara no tenen aquest pes.

PC: Encara estem en l’àmbit del Tractat de Westfàlia de 1640 que és el que va donar lloc a les nacions i els estats  europeus. Com a federació Europa ha fracassat perquè no tenim constitució i això genera tensions entre la sobirania dels estat nació i la sobirania que intentem construir a la Comunitat Europea. Aquesta tensió és una mena de driver, de llera del riu, on conflueixen moltes coses turbulentes. De les 50 empreses més importants del món en IA i en comunicació, només 4 són europees. Amb quina arrogància, tenint en compte les tensions que he apuntat, pot anar Europa a dictar coses al món? Tenim tots els estats separats i no hi ha una coordinació de decisions, ni un mercat tecnològic d’alt nivell que sigui dominant i competitiu . La manera de fer que la gent sigui més creativa, que hi hagi més start-ups, és a partir d’una estructura que vingui de baix, però curiosament i paradoxalment, cada vegada hi ha més traves burocràtiques i econòmiques per fer-ho, cosa que provoca que la gent marxi cap a Àsia, USA o altres parts del món on no posin tants impediments. La sensació és que sabem el que hem de fer, però hi ha un espai públic, una organització política, molt complexa i tensionada. Soc optimista i crec que ens en sortirem si ho fem confiant en la creativitat i imaginació de la gent més que en  la mateixa estructura.