Wendy Hall: cinco reflexiones sobre la Inteligencia Artificial más allá de la tecnología

Susanna Tesconi, profesora de los Estudios de Informática, Multimedia y Telecomunicación, entrevista a Wendy Hall, experta en inteligencia artificial (IA) y recientemente investida doctora honoris causa por la UOC.

La experiencia de Wendy Hall, Doctora en Matemáticas y catedrática en Ciencia Computacional, le permite hablar no solo del futuro de la inteligencia artificial, sino del aspecto más ético y social de la tecnología, un ámbito que conoce bien como activista en la defensa de la igualdad de género en la ciencia y la informática y que le permite reflexionar sobre estos cinco grandes temas (entre otros). 

1. Animar a los estudiantes a usar la IA… pero reconociendo su uso.

Han pasado 33 años desde que Tim Berners Lee lanzó la primera página web (1990); más de tres décadas que nos han permitido ver el crecimiento de la inteligencia artificial moderna y, recientemente, el aprendizaje automático y la inteligencia artificial generativa, que ahora inevitablemente relacionamos con ChatGPT, una herramienta que “en realidad no crea, sino copia”, asegura Hall, “de una forma que parece arte”. Esta realidad “cambia profundamente lo que ocurre en la web y debemos ser responsables con ello”.

Hall, que compara el uso de ChatGPT con los primeros usos de las calculadoras en educación, cree que hay que animar a los estudiantes a usar esta herramienta, pero “declarando abiertamente que hacen uso de ella”. Hay que adaptar las formas de evaluar a los nuevos tiempos, pero son “los seres humanos los que siguen creando”.

La IA nos ayudará a hacer mejor las cosas, a construir sin más allá de hacer “copiar y pegar de la Wikipedia”.  Es importante que los educadores adapten sus métodos de enseñanza a los nuevos tiempos y consideren el uso de herramientas de inteligencia artificial para mejorar el aprendizaje. Sin embargo, es crucial que seamos conscientes de que estas herramientas son solo eso, herramientas, y que no pueden reemplazar completamente el papel del ser humano en la creación y el aprendizaje. Como señala Hall, es importante pensar en cómo podemos usar estas herramientas para “construir un mejor sistema educativo” para hacer frente a la falta de diversidad en la industria tecnológica.

2. Las compañías no están interesadas en una web descentralizada.

Hall analiza la evolución de la web y los retos que plantea la creación de una web descentralizada en proyectos como Solid, de Tim Berners. Esta idea, basada en una web 3.0 que permita una mayor autonomía y control para los usuarios, tiene la oposición de las grandes compañías, porque se “cuestiona su modelo de negocio de arriba abajo”.

Actualmente, a pesar de la existencia de leyes de protección de la privacidad como GDPR, las empresas tienen un control absoluto sobre la información de los usuarios en la red, algo que debe cambiar para proteger la privacidad del usuario.

La experta en inteligencia artificial analiza la posibilidad de que los ciudadanos interactúen con los gobiernos a través de cápsulas personales, que permitirían utilizar los datos de acuerdo con unos términos y condiciones establecidos. Una vez más, considera que las grandes empresas tecnológicas se opondrían a esta opción, aunque reconoce que es posible que “los gobiernos se conviertan en defensores” de este tipo de iniciativas.

3. Toda la sociedad debe estar reflejada en el diseño y desarrollo de la IA.

“Nadie sabe qué IA tendremos en 20 o 30 años y qué cuestiones éticas generará”, asegura Hall, pero está convencida de que hay que establecer principios “que luego los gobiernos regularán”. La clave de este debate ético es “la diversidad y la inclusión”.

En la actualidad, el desarrollo y diseño de la IA ha sido llevado a cabo en su mayoría por una «pequeña fracción de la sociedad, generalmente masculina, con tendencias frikies» que se encuentran relacionados o agrupados en torno a universidades o grandes compañías del sector. Sin embargo, dado que la IA afectará a toda la sociedad, es crucial que toda la sociedad esté representada en su diseño y desarrollo.

Para que la sociedad esté debidamente representada, necesitamos una mayor diversidad en las personas que construyen la programación, escriben el código o crean estos nuevos sistemas. La creación de IA debe ser una tarea interdisciplinaria que involucre a personas de diferentes orígenes y perspectivas, que trascienda lo técnico y que también incluya a personas que auditen su funcionamiento o debatan sobre su contenido. Se necesita una mezcla de personas que representen la diversidad de la sociedad en la que vivimos, «no solo informáticos o matemáticos», determina Hall.

4. Los sistemas de IA tomarán decisiones.

La experta en Inteligencia Artificial incide nuevamente en la importancia de la diversidad y destaca que, al igual que pasa en las grandes compañías, “si no es diverso, no es ético”. Además, aunque reconoce que la falta de diversidad es un problema anterior a la IA –especialmente en el ámbito femenino- asegura que la IA nos afectará más profundamente porque estos sistemas “tomarán decisiones sobre qué podemos y qué no podemos hacer”.

En ese contexto, Hall habla de sus esfuerzos dentro del ámbito académico –tanto como jefa de departamento como decana- para que aumenten el número de mujeres en el campo de la informática, un logro para el que asegura “no hay una solución mágica” y recuerda que el porcentaje de alumnas femeninas en este tipo de estudios sigue estancado desde hace años entre un 15% y un 17%.

5. Personas sin estudios STEM deben poder formarse en IA.

Hall habla de la importancia de tener equipos interdisciplinarios y, para ello, anima a crear lo que denomina “cursos de conversión”, una iniciativa que permita que aquellas personas que no tengan una formación previa en STEM –acrónimo inglés que hace referencia a los estudios de ciencia, tecnología, ingeniería y matemáticas- puedan formarse igualmente en Inteligencia Artificial y formar parte del entorno laboral que desarrolle estos nuevos sistemas.

La catedrática en Ciencia Computacional incide en que “no hace falta ser programador” para formar parte de este ámbito laboral, ya que lo que verdaderamente se necesita es diversidad y tener un “enfoque holístico”. De hecho, las convicciones de Hall van un paso más allá y, aunque reconoce que no se debe “imponer nada en temas de educación” , cree que cualquier persona que haga una cualquier carrera “debería formarse con un curso de inteligencia artificial y ética” para ser conscientes de esta nueva realidad y puedan pensar todo lo que se puede conseguir gracias a ella.