Richard Benjamins: “Amb la IA arribem a resoldre problemes cada vegada més complexos”

Expert en intel·ligència artificial ètica, Richard Benjamins va impartir el webinar “L’ús responsable de la IA: oportunitats i reptes”. Benjamins té una dilatada trajectòria professional com a acadèmic en diverses universitats. Ha col·laborat amb start-ups des de començaments dels anys 2000, ha treballat en grans corporacions com Telefónica i AXA, i, també, ha estat membre de diversos consells d’organitzacions sense ànim de lucre.

A més, des de fa uns deu anys forma part de diverses organitzacions internacionals (WEF, OCDE, UNESCO) com a expert en intel·ligència artificial, i participa en quatre ONG, una de les quals és OdiseIA, que va fundar amb altres nou persones independents i que analitza l’impacte social en l’ètica de la IA. En aquesta entrevista, Benjamins aborda alguns dels aspectes que tractarà en el seminari online: com es pot fer un ús responsable de la IA, la important qüestió de la regulació i com veu el futur d’aquesta tecnologia que, sens dubte, ja està transformant el món.

 Com a expert, creu que l’impacte de la IA serà similar al que va tenir la irrupció d’internet en la dècada dels noranta?

Jo crec que pot tenir el mateix impacte, però la diferència que veiem és que va molt més ràpid. La intel·ligència artificial és present en el sector privat des del 2015, i, sobretot en els últims tres anys, s’ha democratitzat molt ràpidament i ha passat de les corporacions a tots els ciutadans. Internet va trigar més temps a arribar a tots els ciutadans.

Ara, la IA generativa va molt ràpid. Òbviament, no sabem encara si tindrà un impacte igual o més gran que internet, encara que avui dia ja té molt impacte i sembla que pot tenir-ne molt més. No podem preveure com canviarà els negocis, o la vida en general. Tenim alguns indicis del que podria succeir, però de moment tot són estimacions i previsions. I opinions, és clar.

Com podem fer un ús responsable de la IA, sobretot en l’àmbit educatiu?

No sols afecta l’educació, sinó que va molt més enllà. De fet, aquesta tecnologia es pot aplicar a qualsevol sector, i per això és tan potent. Si afectés només l’educació, seria una tecnologia com qualsevol altra, com el blockchain en el sector financer. Però s’aplica a qualsevol sector i a qualsevol aspecte de la nostra vida. Aquesta és justament la raó per la qual és tan poderosa i important.

Si parlem de l’ús responsable, caldria diferenciar tres grans blocs. El primer és usar la IA per al bé social, com un acte de responsabilitat amb la societat. Tenim molta tecnologia i podem utilitzar-la per resoldre problemes com el canvi climàtic, o bé qüestions de salut, pobresa, desigualtat, fam, etc. Bàsicament, els Objectius de Desenvolupament Sostenible de les Nacions Unides (ODS).

Després hi ha la segona part, que és utilitzar aquesta tecnologia per millorar els productes, els negocis…, i la seva optimització, que són tots usos lícits, però poden tenir impactes negatius no desitjats i no intencionats, com efectes secundaris. I aquí entrem en el tema que acostuma a aparèixer a la premsa: que la intel·ligència artificial discrimina, que és opaca, que ens traurà les feines… La intel·ligència artificial no es dissenya per discriminar, encara que pot fer-ho, perquè s’utilitza d’una manera determinada. Llavors, quan parlem d’un ús responsable, ens referim a preveure els possibles impactes negatius des del principi i a prendre mesures sobre aquest tema. S’hauria de fer un gran esforç per minimitzar aquests efectes negatius.

I quin és el tercer gran bloc?

El tercer bloc és l’ús irresponsable, per fer el mal. Aquí estem parlant de delictes, de temes que ja estan prohibits. Però, com passa sempre, hi ha un percentatge de persones que usa les tecnologies per fer mal i per al seu propi benefici, en detriment d’altres.

Òbviament, aquesta última part és un ús irresponsable, i hem de fer tot el possible per evitar-lo; però, fem el que fem, passarà. El bloc que més hauríem de treballar és el segon, que és en el que s’enfoca la regulació que està arribant: evitar els efectes secundaris negatius, encara que no siguin intencionats.

Podria ampliar la qüestió de la regulació, que, òbviament, és molt important? Quin marc regulador caldria seguir, a parer seu?

Jo penso que cal regular l’ús de la tecnologia, no la tecnologia en si. De fet, quan parlem de la regulació europea, el que es regula són alguns usos que es consideren d’alt risc. Per exemple, en contractació: si contractes, acomiades o promociones persones, i la recomanació ve d’un sistema d’intel·ligència artificial, es considera d’alt risc per l’impacte que això pot tenir en les persones. Llavors, la regulació diu que el sistema ha d’estar dissenyat perquè sempre hi hagi una persona que pugui fer una supervisió adequada.

La regulació de la IA és important, perquè no totes les empreses que usen aquesta tecnologia intenten minimitzar els riscos ètics per voluntat pròpia. Si totes les empreses ho fessin, no seria necessari, i amb l’autoregulació ja n’hi hauria prou. Òbviament, la tecnologia va molt ràpid, i és difícil regular alguna cosa que encara no saps com funcionarà o el que pot arribar a fer.

I la regulació presenta diferències des del punt de vista de la geografia?

Sí, s’acostuma a dir que els Estats Units innoven, la Xina copia i Europa regula. En aquest sentit, la meva opinió és que la regulació no és un impediment per innovar. Tot i que és veritat que a Europa hi ha molta regulació, perquè no només hi ha el Reglament d’intel·ligència artificial, sinó també una quantitat de regulacions que en principi són bones, però que poden generar molta burocràcia. I caldria minimitzar la burocràcia el màxim possible perquè no obstrueixi la innovació.

Quines diferències veu entre els assistents d’IA actuals? En tenim una oferta bastant àmplia: ChatGPT (d’OpenAI), Copilot (de Microsoft), Gemini (de Google), MetaAI…

La tecnologia segueix el mateix principi, tot i que les dades que usen per a l’entrenament són diferents, i per això les respostes són lleugerament diferents. Si fas la mateixa consulta en quatre o cinc assistents, totes les respostes tindran a veure les unes amb les altres. Hi pot haver diferents formulacions, diferents fets o diferents errors, encara que tampoc són tan diferents. Òbviament, si busques una cosa concreta per a una tasca concreta, pot funcionar més bé Gemini, o potser OpenAI, o fins i tot Perplexity. Hi ha petites diferències, però la base de funcionament és la mateixa.

Una cosa que és veritat és que Google és molt més cauta que OpenAI a l’hora de llançar coses. Per això, moltes vegades OpenAI és la primera a arribar-hi, perquè la IA és el seu únic negoci. En canvi, Google té el seu negoci tradicional i, a més, té Gemini, que, si fa alguna cosa malament, pot tenir un impacte en el seu negoci tradicional de publicitat. Per aquest motiu, penso que Google acostuma a ser bastant més cauta.

M’imagino que totes aquestes temàtiques s’abordaran el pròxim 16 de juliol en el seminari “L’ús responsable de la IA: oportunitats i reptes”. Què més ens podria dir de l’esdeveniment?

Per a mi és molt important que les persones entenguin com funciona la tecnologia, perquè després puguin actuar en conseqüència. Perquè, si no tens cap coneixement sobre com funciona la IA, o només saps el que llegeixes a la premsa o en llibres, no tens el criteri per valorar si el que llegeixes és veritat o no.

Llavors, en aquest seminari explicaré quines són les bases d’aquestes tecnologies que hi ha avui al mercat, parlaré de quines són les seves oportunitats i n’explicaré alguns dels riscos, que són fàcils d’entendre si s’entén com funciona la tecnologia que hi ha per sota. Per això és important saber-ne alguna cosa, per poder contextualitzar-ne els riscos. L’últim punt que abordaré serà com tractar aquests riscos, des de la teoria, però sobretot des de la pràctica. Respondré a les preguntes: què he de fer jo com a organització? Si vull utilitzar la IA, com puc fer-ho d’una manera responsable? I en què consistirà el meu dia a dia?

Finalment, com veu el futur de la IA? Li sembla que tot just som a la superfície del que ha de venir aviat?

Aquí hi ha dos temes. El primer és que, si m’haguessis preguntat fa cinc anys si seria possible el que és possible avui, t’hauria dit que no. Perquè sempre havíem lluitat amb el llenguatge natural; els chatbots funcionaven malament a tot arreu. I, de sobte, és facilíssim, perquè hi ha alguna cosa darrere en què s’ha invertit molt i que funciona molt bé. Si anem a una altra revolució d’aquest estil, podria ser. No ho sap ningú. En tot cas, la IA generativa és una tecnologia molt concreta que té el seu recorregut, i tampoc crec que sigui suficient per fer una altra cosa més important. Per fer el salt següent, jo crec que hauria de venir un nou salt tecnològic.

El que sí que penso és que, amb aquesta tecnologia, arribem a resoldre problemes cada vegada més complexos. Però parlar d’una intel·ligència artificial que tingui intencions, que vulgui fer coses per si mateixa, fer mal o fer el bé, o treure’ns la feina, d’això estem molt lluny. Això és ciència-ficció.