La importancia de la explicabilidad en los modelos de IA y los sesgos en el entrenamiento de modelos

En el marco del ciclo de seminarios dedicado al estudio de la inteligencia artificial (IA), organizado por los Estudios de Derecho y Ciencia Política de la UOC, el pasado 15 de octubre tuvo lugar la sesión titulada La gobernanza de la IA. Esta sesión contó con las ponencias de cuatro académicos de la Universitat Oberta de Catalunya (UOC).

David Masip, director de la Escuela de Doctorado de la UOC, presentó una ponencia sobre el uso indiscriminado de los algoritmos de inteligencia artificial (IA) y la necesidad de desarrollar arquitecturas que expliquen las decisiones tomadas por esta tecnología: La importancia de la explicabilidad en los modelos de IA y los sesgos en el entrenamiento de modelos.

Masip explicó cómo la IA se usa en sectores críticos como las finanzas, la salud y la seguridad, donde las decisiones automatizadas pueden afectar directamente a las personas. Subrayó la problemática de los sistemas actuales, que a menudo se comportan como «cajas negras» difíciles de entender, hecho que genera desconocimiento. Un punto clave de su ponencia fue la relación entre IA y sesgos sociales. Expuso ejemplos de algoritmos que han cometido errores en clasificaciones basadas en raza o género, reflejando los sesgos presentes en los datos con que se entrenan. Así, defendió la necesidad de mejorar la transparencia y la explicabilidad de los modelos de IA para evitar estos errores, especialmente en ámbitos críticos.

Finalmente, Masip apeló a la creación de protocolos éticos y auditorías más estrictas para garantizar una IA justa, responsable y comprensible. Sus palabras dejaron claro que el adelanto tecnológico no tiene que ser sinónimo de opacidad ni de discriminación.

Puedes ver el vídeo completo aquí:

Accede a este enlace para ver el vídeo completo de la sesión La gobernanza de la IA del ciclo de seminarios sobre la IA.