Azahar Martínez El-masri: “La IA pot ser una eina útil com a copilot, sempre que la decisió final estigui en mans de les persones.”

Azahar Martínez El-masri és graduada en Relacions Internacionals i posseeix un màster a Islam a la societat europea contemporània (UCM). El seu origen birracial, amb arrels àrabs, ha modelat un perfil únic que combina un coneixement profund en ciències socials amb una especialització en robotització i automatització de processos. Aquest enfocament interdisciplinari l’ha portat a centrar-se en l’àmbit dels recursos humans, on explora l’impacte transformador de la tecnologia en la gestió del talent. A més, ha estat guardonada amb el Premi al Millor Treball de Fi de Màster del màster universitari de Direcció i Gestió de Recursos Humans per la recerca sobre l’ús d’algorismes d’intel·ligència artificial en la selecció de talent.

Per què vas decidir especialitzar-te en recursos humans i per què amb la UOC?

Arran d’una experiència professional, vaig descobrir el món de la gestió de persones i vaig decidir continuar formant-me per adquirir les competències i els coneixements necessaris per continuar creixent professionalment. Així és com el 2019, aprofitant un període de desocupació, vaig començar el màster universitari de Direcció i Gestió de Recursos Humans, que vaig acabar el febrer de 2024 defensant aquesta recerca, que és amb diferència el treball acadèmic que més he gaudit i amb el qual més he crescut.

Com ha estat la teva experiència com a estudiant de la UOC? Què és el que consideres més positiu del teu pas per aquesta universitat?

Estudiar a la UOC ha estat una experiència molt diferent de la que vaig viure a la universitat presencial, encara que també soc en una altra etapa vital i tinc altres circumstàncies. En qualsevol cas, ha estat molt interessant i enriquidora perquè aquest model d’universitat m’ha permès conèixer, a través dels exercicis pràctics, companyes de molts llocs i les seves perspectives; per exemple, la meva companya Alexandra Sanz, un suport fonamental en aquesta última etapa, que estudia des de Cantàbria i a qui vaig poder desvirtualitzar en la graduació.

També he pogut accedir a continguts i parlar amb investigadores capdavanteres, com ara la meva tutora, Rachel Palmén, amb la qual vaig contactar després de conèixer l’existència del grup de recerca GenTIC per proposar-li que tutoritzés el meu treball. I tot això, des de la comoditat del meu escriptori, des del sofà o des del seient del tren i en els meus propis temps. Juntament amb això, el que considero més positiu és la substitució del model d’examen en què cal memoritzar sense més ni més per proves d’avaluació contínua, aquestes petites recerques que t’acosten d’una altra manera als continguts teòrics.

El teu treball final de màster (TFM), que ha estat el millor de la teva promoció, tracta un tema tan d’actualitat com la intel·ligència artificial des de la perspectiva de gènere. Quines són les conclusions principals del teu estudi?

Després de llegir nombroses autores tecnofeministes, constructivistes, del feminisme de dades i investigadores especialitzades en l’impacte de la tecnologia en les comunitats minoritzades, i d’analitzar els relats de quinze informants clau amb perspectives molt diverses de la gestió de persones i del camp tecnològic, vaig arribar a tres conclusions principals:

1. Les polítiques de diversitat, equitat i inclusió (DEI) no s’han d’externalitzar en la tecnologia a cegues. Bàsicament, això no és recomanable perquè encara tenim molta feina a fer per combatre els biaixos humans.
2. Ens hem de resistir al hype i al solucionisme tecnològic, que ens porta a pensar que qualsevol problema s’ha d’abordar o es pot abordar des de la tecnologia. És fonamental prendre’s temps per analitzar la necessitat real i l’impacte d’aquesta tecnologia abans d’implantar-la en els processos de selecció de talent. La IA pot ser una eina útil com a copilot, és a dir, assegurant que la presa de decisions estigui en mans de persones que treballin en els seus propis biaixos.
3. En cas que, finalment, es decideixi implementar-la, hauríem d’apostar per tecnologies d’IA ètiques, traçables i centrades en les persones, a més de construir conjunts de dades amb perspectiva de gènere o de servir-nos-en. És a dir, anar més enllà de les auditories i adquirir eines amb un enfocament humanista.

Creus que la IA pot perjudicar la lluita per la igualtat i el moviment feminista?

La IA que coneixem actualment, i amb la qual moltes persones interactuem, la IA generativa, ja té efectes terribles sobre els grups minoritzats —en poques paraules, col·lectius que, independentment dels seus números, són convertits i tractats com a minories marginals—, entre els quals es troben les dones. Les IA que generen imatges mostren molt clarament els riscos i posen en relleu com de masclista i de colonial és la societat. Des de la creació d’hipertrucatges (deepfakes) pornogràfics i la hipersexualització de nenes i dones fins a la infrarepresentació de persones no blanques i la perfilació racial.

En l’àmbit de l’accés a llocs de treball i els processos de selecció, que ens ocupa en la recerca, també tenim un cas d’estudi molt simbòlic i revelador. El 2018, Amazon es va haver de desfer d’un algorisme de selecció en descobrir-se que, com que s’havia entrenat amb les dades de les contractacions dels deu darrers anys, feia també deu anys que esbiaixava i discriminava de manera automatitzada els perfils de dones, tot i que era un algorisme que cribrava currículums cecs.

És sorprenent…

Aquest treball m’ha ajudat a prendre consciència que la tecnologia no és més que un producte que construïm. Tenint això en compte, només necessitem decidir en quins casos és necessària o útil una tecnologia i crear-la perquè sigui traçable, ètica i centrada en les persones. I per fer-ho, no només cal prendre mesures des de les organitzacions, sinó que necessitem un marc i unes polítiques més valentes que la Llei d’intel·ligència artificial (IA Act) de la Unió Europea per fer front als capitals estatunidencs i xinesos, i per regular els tipus d’IA que es poden utilitzar a la UE a fi de protegir els drets de totes les persones. I faig aquest aclariment perquè, mentre que la majoria tenim clar que l’accés a l’ocupació s’ha de protegir —i eines com el reconeixement facial amb IA ja han estat sancionades en aquest marc—, continuem fent servir aquesta tecnologia en pro de la seguretat en el control de les fronteres.

Cada vegada més dones s’integren en el sector tecnològic, però no sempre ascendeixen a llocs de responsabilitat. Creus que la tendència podria canviar en el futur, de manera que acabin liderant el desenvolupament de la IA?

En la recerca dedico un apartat sencer a estudiar el perquè de la subrepresentació en el disseny de les tecnologies, i no només de dones. En el cas de les dones, hi ha una bibliografia ingent que assenyala les causes darrere d’aquestes absències tant en els treballs tècnics com en els llocs de responsabilitat. Algunes de les més repetides són els rols de gènere que aprenem en la socialització diferencial durant la infància i representem durant les nostres vides. Aquests rols es tradueixen en la divisió sexual del treball; la falta o l’ocultació de referents diversos, que gràcies al treball incansable de les feministes s’està revertint a poc a poc; la construcció de cultures organitzacionals formals i informals anomenades clubs d’homes, en què s’alimenten una sèrie de rituals, s’empra un llenguatge particular i s’assumeixen una sèrie de comportaments que, generalment, resulten incòmodes i fins i tot violents per a les dones, com ara organitzar reunions amb clients en prostíbuls o en llotges d’estadis; o bé les microagressions a les quals les dones estem sotmeses habitualment.

I què passarà?

Definitivament, crec que la tendència ha de canviar, però això no és una cosa que succeeixi per generació espontània. Des de les organitzacions cal fer un esforç conscient per posar en marxa estratègies de DEI, no només perquè és just, sinó també perquè és rendible. Perquè està demostrat que com més divers és un equip ben gestionat, millors solucions i més innovació genera. Una pràctica que cada vegada és més comuna és la selecció per competències, en la qual s’ha identificat que es redueixen els biaixos.

Tens pensat continuar amb la teva recerca? Quin camí vols agafar?

Si sóc completament honesta, quan les persones que componien el tribunal avaluador del TFM em van suggerir la idea, em vaig sorprendre, perquè no era una cosa que estigués en els meus plans. Tot i això, després de participar en el womENcourage 2024 de l’ACM (Associació de Computació) centrada en l’equitat de gènere, vaig canviar d’idea. Al llarg dels tres dies de ponències, hackaton i workshops vaig poder conèixer moltes estudiants europees de doctorat i les seves experiències, i m’ha entrat el cuquet. Per ara, necessito consolidar la meva experiència professional al camp de People&Culture, però no descarto repensar aquesta opció en el futur.

Si haguessis d’estudiar de nou, triaries una altra vegada la UOC?

Definitivament, si es tracta d’estudis universitaris, consideraria la UOC com a primera opció. El sistema d’aprenentatge i avaluació m’agrada; a més, he tingut el luxe de topar-me amb professionals molt implicades i compromeses amb el meu desenvolupament acadèmic i personal. I per a les persones que han acabat els estudis, tinc la impressió que la xarxa Alumni és un entorn molt interessant en el qual poden continuar creixent i connectant amb companyes, fins i tot ja fora del recorregut acadèmic.