Daniel Innerarity: “La intel·ligència artificial no sabrà pensar per tu”

Daniel Innerarity és catedràtic de filosofia política i social, investigador Ikerbasque, a la Universitat del País Basc, i director de l’Instituto de Gobernanza Democrática. L’any 2004 la revista francesa Le Nouvel Observateur el va incloure en la llista dels vint-i-cinc grans pensadors del món.

El mes d’abril passat vam tenir l’oportunitat de conversar amb ell en el EdTech Congress on vam reflexionar sobre què significa la intel·ligència en l’ésser humà i en les màquines, així com quins són els desafiaments als quals s’enfronta l’educació davant la irrupció de la intel·ligència artificial (IA) i com aquesta tecnologia afectarà la manera en què ensenyem i aprenem.

En el seu article sobre la intel·ligència de la IA i la dels humans, afirma que no podem donar per fet que la IA sigui intel·ligent i que hauríem de preocupar-nos de què fer-ne perquè ho sigui el màxim possible. Podria desenvolupar aquesta idea?

Des dels anys cinquanta, quan aquell famós grup de Dartmouth decideix que això es denominarà intel·ligència artificial, arrosseguem dos problemes: sobreentendre que aquesta tecnologia és intel·ligent en el sentit en què ho som nosaltres i entendre que és artificial quant a una cosa etèria que no ocupa espai ni lloc en el núvol, quan, realment, és una tecnologia molt bruta que consumeix molta energia, produeix moltes escombraries, i en la qual hi ha més gent humana treballant del que el nom artificial dona a entendre.

El que em sembla que ens ha aportat més inconvenients que avantatges és el fet que es digui “intel·ligència” com la nostra propietat, la qual cosa fa que la comparem contínuament, que ens sentim substituïbles per ella, o que hi competim.

També esmenta la importància d’esbrinar allò específicament humà de la intel·ligència humana per  saber quins són els límits de la IA.

La IA és intel·ligent perquè fa coses que a nosaltres ens costen, com calcular, gestionar molt bé una gran complexitat i quantitat de dades o descobrir patrons amb facilitat. No és intel·ligent en el sentit que no és conscient del que sap. És a dir, no té un saber reflexiu, sinó reflex.

Una altra diferència és que nosaltres som bastant capaços d’enfrontar-nos a situacions noves, per a les quals no ens han preparat. Segurament l’educació té molt a veure en això, ja que preparem als estudiants, o fins i tot fills i filles, perquè tinguin els recursos suficients per gestionar situacions imprevistes. Això, en el cas de les màquines, no es donarà, ja que, en principi, fan allò per al que explícitament se’ls ha programat.

És correcte dir que és impossible fer raonar a la IA?

Sempre depèn del que s’entengui per raó. Douglas Hofstadter deia que mai ens guanyarien les màquines en jugar als escacs, i ens han guanyat. No sabem ben bé quins són els límits d’aquest artefacte que hem dissenyat. Però a mi, personalment, em costa molt de creure que ens arribin a superin.

Allò que pensem que és intel·ligent, moltes vegades relacionat amb professions en concret, són idees bastant banals i que tant de bo fóssim alliberats d’elles. Hi ha certa semblança amb el treball industrial. La maquinització del segle XIX, a més de produir un greu conflicte social, va tenir un efecte d’emancipació, i ens va deslliurar de feines molt mecàniques, dures i manuals, amb què la gent moria. Això ha permès un desenvolupament de l’economia en el qual els humans ens centrem en allò que específicament podem aportar nosaltres, en lloc de fer coses mecàniques o banals.

De què ens alliberarà la IA? Què hauria de preocupar-nos de l’arribada massiva de la IA a tots els àmbits?

Hi ha coses que la IA fa molt bé. En el cas d’un discurs d’inauguració qualsevol, en el qual un alcalde té entre cinc i deu minuts per dir unes paraules, no es fa una gran aportació intel·lectual, per la qual cosa segurament això ho pot fer una IA.

Ara, cal fer-li les preguntes correctes i cal saber orientar-la en una determinada direcció. La IA no sabrà pensar per tu. Mantenint l’exemple, no endevinarà quines mesures vols presentar com a polític o quines decisions vols prendre. Però una vegada hem decidit què és el que volem fer, hi ha tota una part d’implementació en la qual els robots ens poden ajudar molt.

Com creu que la integració de la IA ha afectat la manera en què ensenyem i aprenem, especialment pel que fa al desenvolupament d’habilitats i la manera en què formulem preguntes i busquem respostes?

Quan vaig començar a fer classe a la universitat, a principis dels anys vuitanta, el que tenia davant era, fonamentalment, gent amb poca informació. Hi havia pocs llibres, poques biblioteques i encara no existia Google. A què em dedicava jo com a docent? Durant el 80% de la classe donava informació i la resta del temps oferia alguna clau d’interpretació.

Amb el pas del temps la relació s’ha invertit, el rol de l’estudiant i el del docent ha canviat. No es competeix contra Google, perquè té més dades que nosaltres, sinó que s’ofereixen instruments per a sobreviure a l’accessibilitat d’informació. A través d’una sèrie d’instruments i criteris s’ensenya què cal buscar o com saber si s’ha trobat el que realment es buscava.

Quin seria el principal desafiament al qual s’enfronta l’educació amb la implementació de la IA?

El desafiament al qual ens enfrontem tots és el de tornar a definir què significa “intel·ligent”. La primera pregunta que ens hem de fer és: ho pot fer una màquina millor que jo? Si ho pot fer, més econòmic i igual de bé, estem perduts. Segon, en què pot consistir la meva aportació? Perquè la IA funciona si nosaltres l’ajudem o orientem. Tercer, com col·laboro jo amb la màquina per fer un producte millor? Cal distingir bé entre tasques de les quals ens podem i ens hem de lliurar i aquelles aportacions que els humans podem fer d’una manera significativa.

Com podem garantir que la IA s’utilitza de manera ètica i responsable?

El primer de tot, no pensar que això és una cosa que ve de fora. La intel·ligència artificial és un producte humà amb unes peculiaritats concretes. Els humans ens hem fet a nosaltres mateixos al llarg de la història a través de la tecnologia i l’hem incorporat a la nostra vida.

És a dir, cal pensar en la història de la tecnologia com una història de l’entrellaçament entre humans i màquines, una història en la qual ara estem escrivint un capítol nou, amb una tecnologia especialment potent i fascinant.