Podcast Despacho 42 | Experiencia de usuario y sesgo algorítimico con Judith Membrives

18 marzo, 2021

Vuelve el podcast Despacho 42. En esta ocasión, los profesores César Córcoles y Susanna Tesconi, profesores de los Estudios de Informática, Multimedia y Telecomunicación de la UOC charlan con Judith Membrives, graduada en Comunicación en la UOC, que actualmente está terminando el Máster en Filosofía para los Retos Contemporáneos de la UOC. Judith se dedica a la investigación y diseño centrado en las personas. Trabaja con el impacto innovación y la interacción con las nuevas tecnologías a escala cognitiva, ética y social. Es mentora e investigadora en experiencia de usuario (UX) en el UX Lab de Barcelona Activa y es profesora colaboradora del Máster universitario de Diseño de Interacción y experiencia de usuario de la UOC. Con ella reflexionan sobre la experiencia de usuario, la importancia de la ética y los derechos humanos en el desarrollo tecnológico. Puedes escuchar el episodio aquí:

La experiencia de usuario (UX)

¿Cómo definirías experiencia de usuario (en inglés, user experience – UX)? ¿Qué diferencia hay entre la UX y el diseño centrado en el usuario? Judith nos lo explica: “La experiencia de usuario (UX) es la conversación o interacción entre interfaz y persona que lo utiliza. Esa interacción va más allá del clic: depende del contexto, las emociones, aspectos psicológicos como la carga cognitiva, la facilidad de uso, etc”. También nos cuenta que ésta tiene afectaciones más allá de la interfaz: detrás dela interacción hay elementos que intervienen.

Respecto al diseño centrado en el usuario, Judith nos cuenta que es una metodología o filosofía de trabajo que incluye las personas a la iteración de una interfaz. Está muy vinculado a la investigación previa antes de diseñar una interfaz, tener en cuenta al usuario en la creación. “A mi me gusta hablar de diseño centrado en la persona: es inclusivo con el usuario pero personas que puedan verse afectadas” explica Judith.

Por su lado, la profesora Susana Tesconni reflexiona sobre cómo ha evolucionado el ámbito del diseño de usuario, que antes se llamaba «interacción persona-ordenador». “Por suerte, se han incorporado figuras que proceden de otros ámbitos vinculados a la innovación” añade.

¿Cómo se relacionan el diseño centrado en el usuario y la filosofía?

Judith empezó a estudiar filosofía, luego estudió comunicación y ahora ha vuelto a la filosofía. Le preguntamos sobre la relación que tienen disciplinas como el diseño centrado en el usuario y la filosofía: “A mi me interesa la interacción humano-máquina. La interacción que tenemos con las máquinas tiene que ver con la ética y con la epistemología (cómo aprendemos y se genera el conocimiento) y cada vez más hablaremos de estas cosas.” La relación es evidente.

La importancia de la accesibilidad

En su trabajo como mentora en el UX Lab, Judith asesora start-ups que están emprendiendo. Nos cuenta que en este proceso siempre pone sobre la mesa el tema de la accesibilidad, aunque manifiesta que hay veces que estas empresas se muestran reticentes o que no entienden el valor de hacer interfaces accesibles.

“No se trata solamente de hacer una interfaz accesible la gente que no puede ver. Hay tantos contextos que abarcas teniendo en cuenta la gente con problemas de accesibilidad importante.. Cuando le dices a la gente que hay más daltónicos que población en Inglaterra, la gente alucina y se lo toma en serio.” De este tema hablamos largo y tendido con Juanjo y Núria en Despacho 42 dedidado a la accesibilidad digital.

¿Cómo la UX se relaciona con los algoritmos sesgados?

Judith comparte que forma parte de Algorights, una asociación que defiende la Inteligencia Artificial (IA) con derechos humanos. Como parte de la asociación, en el podcast nos habla de su experiencia en una charla donde asistió hace poco sobre ética y IA, en la que afirma que terminó preocupada por el tecno-optimismo de los ponentes al hablar de los sesgos en la IA y la tecnología en general, como si fuese parte del proceso y de la innovación. “El problema de los sesgos en la Inteligencia Artificial (IA) no es un reto tecnológico sino social. El tema es qué papel le damos a la tecnología en según qué tomas de decisiones que pueden vulnerar derechos” explica.

Desde su punto de vista estamos dando una agencia al algoritmo que no se lo damos a otros seres pensantes. Pensamos que el cálculo matemático es objetivo de por si. Añade: “Estamos inoculando en el imaginario público que la tecnología tiene fallos debido al progreso. Los sesgos algorítmicos podrían revertirse y hacer discriminación positiva.”

Para Judith, la reflexión principal está en cómo creamos y producimos la tecnología, y qué agencia le damos. Nos pone un ejemplo clarísimo: resulta que en España tenemos un algoritmo que decide si se da el bono social a familias o no. La organización Civio detectó que había famílias a las que habían rechazado ayudas porque había malas calibraciones y denegaban la ayuda a gente muy necesitada.

El problema de fondo es que este algoritmo está pagado con dinero público y la empresa que lo ha desarrollado no permite ver el código detrás de ese algoritmo. “Hay decisiones detrás, ejes de poder, alrededor de la creación de tecnología que a veces acaban con sesgos algorítmicos y a veces cometen errores en pro de la optimización de la administración” explica.

Según ella, el sesgo es una manera gráfica de entender posibles problemas de la inteligencia artificial pero los tecnólogos tenemos que ir más allá del sesgo. Es el relato de Silicon Valley de permitir fallos en pro del progreso.

¿Cómo podemos avanzar hacia una tecnología más ética?

Una vez puesto todo esto en contexto, preguntamos a Judith cuál seria una buena manera de avanzar hacia una tecnología más ética y neutral. Ella nos habla de ir al origen: hay que ir a las bases de datos sobre las cuales trabajan estos algoritmos. “El problema es que las BDD a las que tenemos acceso ya están sesgadas, no hay datos en bruto, lo recopilan terceros con intereses. Si no partimos de datos neutros, el debate de si el algoritmo está sesgado pasa a segundo plano”.

Y es que la tecnología no es neutra porque casi nunca los datos lo son, añade el profesor César Córcoles.

Derechos Humanos y Tecnología

Como decíamos al principio, Judith está muy interesada en incorporar la visión de los Derechos Humanos en el ámbit tecnológico: “Me sorprende que no se hable de derechos humanos en tecnología. Hecho de menos que se pongan en valor los DDHH para hablar sobre cómo se producen tecnologías tipo el reconocimiento facial”, explica.

Para terminar añade: “Hay que plantearse otras manera de producir tecnologías. Una de las críticas del UX es la visión centrada en el usuario. Si ampliamos la visión a todas las personas, cómo le impacta la tecnología… partimos de un punto inicial mucho más amplio que el que teníamos. Apuesto por la co-creación con poder de creación de la persona usuaria.”