Azahar Martínez El-masri: “La IA puede ser una herramienta útil como copiloto, siempre que la decisión final esté en manos de las personas.”

Azahar Martínez El-masri es graduada en Relaciones Internacionales y posee un máster en Islam en la sociedad europea contemporánea (UCM). Su origen birracial, con raíces árabes, ha moldeado un perfil único que combina un profundo conocimiento en ciencias sociales con una especialización en robotización y automatización de procesos. Este enfoque interdisciplinar la ha llevado a centrarse en el ámbito de los recursos humanos, donde explora el impacto transformador de la tecnología en la gestión del talento. Además, ha sido galardonada con el Premio al Mejor Trabajo de Fin de Máster del Máster de Dirección y Gestión de Recursos Humanos por su investigación sobre el uso de algoritmos de inteligencia artificial en la selección de talento.

¿Por qué decidiste especializarte en recursos humanos y por qué con la UOC?

De la mano de una experiencia profesional descubrí el mundo de la gestión de personas y decidí invertir en seguir formándome para adquirir las competencias y conocimientos necesarios para continuar creciendo profesionalmente. Así es como empecé, en 2019, el Máster de Dirección y Gestión de Recursos Humanos, aprovechando un periodo de desempleo, para, finalmente, terminar en febrero de 2024, defendiendo esta investigación que es el trabajo académico que más he disfrutado y con el que más he crecido.

¿Cómo ha sido tu experiencia como estudiante de la UOC? ¿Qué es lo que consideras más positivo de tu paso por esta universidad?

Estudiar en la UOC ha sido una experiencia muy diferente de la que viví en la universidad presencial, si bien también es otra etapa vital y otras circunstancias. En cualquier caso, ha sido muy interesante y enriquecedora porque este modelo de universidad me ha permitido conocer a través de los ejercicios prácticos a compañeras de muchos lugares y sus perspectivas, como a mi compañera Alexandra Sanz, apoyo fundamental en esta última etapa, que estudia desde Cantabria y a quien pude desvirtualizar en la graduación.

También, acceder a contenidos e investigadoras punteras, como mi tutora Rachel Palmén, a la que contacté tras conocer la existencia del grupo de investigación GenTIC, para proponerle tutorizar mi trabajo y, todo esto, desde la comodidad de mi escritorio/sofá/asiento del tren y en mis propios tiempos. Lo que considero más positivo, junto con todo lo anterior, es sustituir el modelo de exámenes en los que memorizas sin más por PECs, esas pequeñas investigaciones que te acercan de otra manera a los contenidos teóricos.

Tu Trabajo de Fin de Máster (TFM), que además ha sido el mejor de tu promoción, aborda un tema tan de actualidad como la inteligencia artificial desde la perspectiva de género. ¿Cuáles son las principales conclusiones de tu estudio?

Tras leer a numerosas autoras tecnofeministas, constructivistas, del feminismo de datos e investigadoras especializadas en el impacto en las comunidades minorizadas de la tecnología, y analizar los relatos de 15 informantes clave con perspectivas muy diversas de la gestión de personas y del campo tecnológico, alcancé tres conclusiones principales:

1. Las políticas de Diversidad, Equidad e Inclusión no se deben externalizar en la tecnología a ciegas. No es recomendable, básicamente, porque aún tenemos mucho trabajo por hacer para combatir los sesgos humanos.
2. Debemos resistirnos al hype y al solucionismo tecnológico, que nos lleva a pensar que cualquier problema debe o puede abordarse desde la tecnología. Es fundamental tomarse el tiempo para analizar la necesidad real y el impacto de esta tecnología antes de implantarla en los procesos de selección de talento. La IA puede ser una herramienta útil como copiloto, es decir, asegurando que la toma de decisiones esté en manos de personas que trabajen en sus propios sesgos.
3. En caso de finalmente decidir implementarla, deberíamos apostar por IAs éticas, trazables y centradas en las personas, además de construir o servirnos de conjuntos de datos con perspectiva de género. Es decir, ir más allá de la realización de auditorías y adquirir herramientas con un enfoque humanista.

¿Crees que la IA puede perjudicar a la lucha por la igualdad y al movimiento feminista?

La IA que conocemos actualmente, y con la que muchas personas interactuamos, la IA generativa, ya está teniendo efectos terribles sobre los grupos minorizados (en pocas palabras, colectivos que, independientemente de sus números, son convertidos y tratados como minorías marginales), entre los que se encuentran las mujeres. Las IAs que generan imágenes muestran muy claramente los riesgos y están mostrando cuán machista y colonial es la sociedad. Desde la creación de deepfakes pornográficos e hipersexualización de niñas y mujeres a la infrarrepresentación de personas no blancas y la perfilación racial.

En el ámbito del acceso al empleo y los procesos de selección, que nos ocupa en la investigación, también tenemos un caso de estudio muy simbólico y revelador. En 2018, Amazon tuvo que deshacerse de un algoritmo de selección al descubrirse que, por ser entrenado con los datos de las contrataciones de los últimos diez años, llevaba otros tantos sesgando y discriminando de manera automatizada los perfiles de mujeres aun siendo un algoritmo que cribaba currículos ciegos.

Sorprendente…

Este trabajo me ha ayudado a tomar conciencia de que la tecnología no es más que un producto que construimos. Teniendo eso en cuenta, solo necesitamos decidir en qué casos es necesaria o útil una tecnología, y crearla para que sea trazable, ética y centrada en las personas. Y para ello no solo hay que tomar medidas desde las organizaciones, sino que necesitamos de un marco y unas políticas más valientes que el AI Act europeo para hacer frente a los capitales estadounidenses y chinos, y regular el tipo de IAs que pueden emplearse en la UE protegiendo los derechos de todas las personas. Y hago esta aclaración porque, mientras que la mayoría tenemos claro que el acceso al empleo debe protegerse y herramientas como el reconocimiento facial con IA ya han sido sancionadas en este marco, seguimos empleando esta tecnología en pro de la seguridad en el control de las fronteras.

Cada vez más mujeres se integran en el sector tecnológico, pero no siempre ascienden a puestos de responsabilidad. ¿Crees que la tendencia podría cambiar en el futuro y que terminen liderando el desarrollo de la IA?

En la investigación dedico un apartado entero a estudiar el porqué de la subrepresentación no solo de mujeres en el diseño de las tecnologías. En el caso de las mujeres, hay ingente bibliografía que señala las causas detrás de estas ausencias tanto en los trabajos técnicos como en los puestos de responsabilidad. Algunos de los más repetidos son los roles de género que aprendemos en la socialización diferencial durante la infancia y performamos durante nuestras vidas, que se traducen en la división sexual del trabajo, la falta u ocultación de referentes diversos que, gracias al trabajo incansable de las feministas, se está poco a poco revirtiendo; la construcción de culturas organizacionales formales e informales llamadas ‘clubes de hombres’, donde se alimentan una serie de rituales, se emplea un lenguaje y se asumen una serie de comportamientos que generalmente resultan incómodos e incluso violentos para las mujeres, como organizar reuniones con clientes en prostíbulos o en palcos de estadios; o las microagresiones a las que las mujeres estamos habitualmente sometidas.

¿Y qué pasará?

Creo que la tendencia definitivamente tiene que cambiar, pero no es algo que suceda por generación espontánea. Desde las organizaciones hay que hacer un esfuerzo consciente por poner en marcha estrategias de DEI (Diversidad, Equidad e Inclusión). No solo porque sea justo, sino porque es rentable. Porque está demostrado que cuanto más diverso es un equipo bien gestionado, mejores soluciones y más innovación genera. Una práctica, que cada vez es más común, es la selección por competencias, donde se ha identificado que se reducen los sesgos.

¿Planeas continuar con tu investigación? ¿Qué camino quieres tomar?

Si soy completamente honesta, cuando las personas que componían el tribunal evaluador del TFM me sugirieron la idea, me sorprendí, porque no era algo que estuviera en mis planes. No obstante, tras participar en el womENcourage 2024 de la ACM (Asociación de Computación) centrada en la equidad de género, cambié de idea. A lo largo de los tres días de ponencias, hackaton y workshops pude conocer a muchas estudiantes europeas de doctorado y sus experiencias, y me ha entrado el gusanillo. Por ahora, necesito consolidar mi experiencia profesional en el campo de People&Culture, pero no descarto repensar esta opción en el futuro.

Si tuvieras que estudiar de nuevo, ¿elegirías otra vez la UOC?

Definitivamente, si se trata de estudios universitarios, consideraría la UOC como primera opción. El sistema de aprendizaje y evaluación me gusta y, además, he tenido el lujo de toparme con profesionales muy implicadas y comprometidas con mi desarrollo académico y como persona. No obstante, para aquellas personas que han terminado sus estudios, tengo la impresión de que la red Alumni es un entorno muy interesante en el que seguir creciendo y conectando con compañeras, incluso ya fuera del recorrido académico.