Ética en el contexto de IA

Justo hace unos días en Informatica++, se hablaba de un tema cada vez más relevante para el análisis del dato: la ética.

Justo hoy leemos que DeepMind en The Verge, de Google, ha creado un equipo (llamado DeepMind Ethics & Society) para investigar los efectos de la inteligencia artificial sobre la sociedad. Quizá a algunos les sorprenda, por el carácter altruista que inicialmente podemos dotar al suceso. Un poco más centrados en la noticia, descubrimos que DeepMind ha tenido problemas en el pasado en un proyecto de análisis de datos de pacientes de NHS. El proyecto en cuestión fue declarado ilegal.

Dentro del marco de GDPR, va a ser natural que las empresas se encuentren más y más problemas. Pero no sólo se trata del dato sino del tipo de análisis realizados y los resultados del mismo. La aparición de algoritmos como el gaydar debería ponernos en alerta de los peligros de la clasificación dicótomica de las personas y, sobretodo, del uso que se quiere dar a dicha clasificación (entre ellos un bombardeo indiscriminado de fake news que sigue siendo un problema de gran calado).

Este tema no es nuevo y es necesario que todos lo tengamos en cuenta. Para los interesados, recomendamos la lectura (o incluso relectura) de Weapons of Math Destruction de Cathy O’Neil. Este libro está escrito desde la perspectiva de un profesional que tras trabajar en el ámbito descubre las desigualdades y descriminación creados a partir de los algoritmos. De hecho, lo interesante es que se vuelve un activista intentando resolver algunas de estas desigualdades.

Uno de los problemas al que se enfrentan los profesionales del dato (sin entrar en las múltiples categorías existentes) es que aquellos análisis de datos que aplican o crean (y que sin duda pueden llegar a ser muy beneficiosos para una organización) a veces no lo son tanto para las personas. No se trata entonces tan solo de conocer la regulación, las técnicas, las mejores prácticas, el uso de técnicas de privacidad de datos, … sino también qué valores éticos debe tener nuestra organización. Y que en la fórmula del valor para cliente se tengan en cuenta estos puntos.

En una época como la que estamos viviendo, la revisión de los valores éticos se vuelve absolutamente necesaria. Así que, ¿ya tiene tu equipo de big data y data science un experto en ética? Sino, es el momento de ponerse manos a la obra.