App de citas para monstruos – ¿hay sesgo en los algoritmos?

4 de junio de 2019
MH1z15O-edit

Los algoritmos parecen no tener sesgo, pero la aplicación Monster Match pretende mostrar que sí lo hay. Sobretodo cuando se trata de personas, simples rutinas repetitivas como mostrar un resultado u otro en función de un numero de elecciones puede de hecho contribuir a la exclusión basada en motivos raciales o simplemente de acceso a la tecnología o a la conexión de Internet.
Por una parte un desafío, y por otra parte, un intento creativo para explorar un tema muy complejo: el sesgo de los algoritmos. En esto consiste el juego MonsterMatch, creado por el investigador y desarrollador de juegos Ben Berman en colaboración con el diseñador Miguel Perez. Fue uno de los recipientes de la Mozilla Creative Media Awards, una iniciativa dedicada a dar soporte a los artistas, documentalistas y diseñadores impulsando proyectos que nos puedan hacer entender las entrañas de la Inteligencia Artificial, lo que pasa detrás de nuestras pantallas cuando hacemos un click, como funcionan los algoritmos de nuestras apps móviles, etc.
MonsterMatch es un juego que simula una aplicación de citas, pero los personajes utilizados son monstruos que, según el autor de la app, exageran «la diversidad que estamos perdiendo cuando los algoritmos «adivinan» lo que estamos buscando. El funcionamiento de la app no difiere de otra cualquier app de citas: en el inicio estás invitado a crear tu perfil (de monstruo) pudiendo escoger entre unas decenas de elementos (monstruos ya hechos, cabezas, ojos, pelo, etc.), después «navegar» girando a la izquierda para desechar un monstruo y a la derecha para guardarlo y comunicar con ellos. Pero, la parte divertida (o no) viene cuando la app empieza mostrar el funcionamiento del algoritmo que está detrás de la mayoría de las apps de citas, llamado y filtración colaborativa. La filtración colaborativa (collaborative filtering en inglés), es el algoritmo que a parte de las apps de citas como Tinder, es también utilizado por grandes plataformas como Amazon, Google o Netflix. Su principio es que «Si te gusta x, también te va a gustar. Pero MonsterMatch nos muestra que esto no siempre funciona, sobretodo cuando las recomendaciones no son productos sino humanos. Como se basa en las elecciones «anteriores» pueden dejar de mostrar perfiles que anteriormente han sido excluidos. De esta manera se toman decisiones racistas y xenófobas sin ni siquiera darnos cuenta. Aplicaciones como MonsterMatch son una muestra más que enfortece el argumento que la filtración colaborativa está exacerbando el sesgo.
No cabe duda entonces que todavía queda mucho para entender acerca de los algoritmos y que, des de una perspectiva más filosófica – el pensamiento de la diferencia tiene un gran reto en ayudarnos a reflexionar sobre la inteligencia artificial (no la de los robots humanoides, sino la que ya obra mediante aplicaciones que utilizamos cada día). Y el arte, sea el de un sencillo diseño de juego, o el de un documental, es lo que pone de antemano estas mecánicas.
Para aquellos que quieran probar el juego, puede accederse desde aquí.
Sobre la app, se puede leer una reseña en Mashable, aquí.
Para más información, se puede ver el anuncio de la aplicación y más sobre la iniciativa Creative Media Awards de Mozilla.

Autor / Autora
Comentarios
Deja un comentario