Buena Administración, Reserva de Humanidad y Supervisión Humana

Dr. Juli Ponce Solé reflexiona que la reserva de humanidad se basa en la empatía. Algo que hasta ahora las máquinas no han podido reproducir.

La ponencia de Juli Ponce Solé intitulada Some considerations on the relationship between humans and artificial intelligence: the ‘human reserve’ and the human supervision explora la intrincada relación entre los humanos y la inteligencia artificial (IA). Comienza describiendo las secciones que se verán a seguir centrándose en el impacto de la IA en la toma de decisiones humana y los procesos administrativos.

El Dr. Ponce, inicialmente, expone algunas de las ventajas y riesgos asociados a la IA. Entre los aspectos positivos se incluyen el potencial de generar nuevos empleos, una mayor capacidad de procesamiento y la capacidad de hacer predicciones basadas en correlaciones evitando al mismo tiempo sesgos cognitivos. Además, menciona el Dr. Ponce algunas decisiones legales y opiniones de expertos para enfatizar que el debate actualmente sobre la materia se relaciona con parámetros de eficiencia y eficacia aportados por IA.

La presentación sigue con una descripción de los potenciales riesgos asociados con el uso indiscriminado de la IA, incluida la dependencia de las correlaciones sobre la causalidad, los errores, los sesgos y la opacidad de los procesos de toma de decisiones de la IA. Destaca aún el ponente los desafíos de controlar los sistemas de IA y garantizar que se alineen con los valores humanos y los estándares éticos para el ejercicio del interés general en las Administraciones Públicas.

El Dr. Ponce también se atenta a los roles de los humanos cuando hacen uso de la IA, distinguiendo entre decisiones totalmente automatizadas y decisiones semi-automatizadas con supervisión humana. También distingue entre IA simbólica (basada en reglas) e IA no simbólica (estadística y predictiva), enfatizando la importancia del razonamiento abductivo, o sea, la empatía combinada con el principio de la buena administración. Comenta, por fin, el concepto de ‘reserva humana’ como esencial en el sector público con la obligación y el deber del agente de tomar de decisiones jurídicamente motivadas.

La ponencia del Dr. Juli Ponce Solé, Catedrático de Derecho Administrativo, Universitat de Barcelona, contó con el apoyo del Proyecto de Investigación PID2020-115774RB-I00 Personalización de los Servicios Públicos, Sesgos e Inteligencia Artificial: hacia la Consolidación de los Derechos Digitales en las Administraciones Públicas. Ver más aquí. Su intervención tuvo lugar el 19 de noviembre de 2023.

Para volver a la página anterior, haz click aquí.