Relatoría del VII Seminario Digitapia

El pasado mes de marzo durante los días 11 y 12 tuvo lugar en la Universitat Oberta de Catalunya el VII Seminario Digitapia, dirigido por el Dr. Agustí Cerrillo i Martínez, Catedrático de Derecho Administrativo de la Universitat Oberta de Catalunya, y la Dra. Clara Isabel Velasco Rico, Profesora Agregada Serra Húnter de Derecho Administrativo de la Universitat Pompeu Fabra.

Fundamentos normativos y competencias de la regulación de la IA en la Administración pública

El Dr. Agustí Cerrillo i Martínez y la Dra. Clara Isabel Velasco Rico examinaron los fundamentos constitucionales, normativos y competenciales que deben sustentar una propuesta de regulación del uso de la inteligencia artificial en las Administraciones públicas. En este análisis se constató que, si bien el Reglamento de Inteligencia Artificial establece un marco normativo detallado, la regulación específica del uso de la inteligencia artificial en el ámbito administrativo se encuentra fragmentada en diversas normas previas a la irrupción de esta tecnología. Asimismo, se han identificado iniciativas normativas tanto a nivel estatal como autonómico, si bien de forma aislada. Ante esta situación, los ponentes abordaron los instrumentos normativos idóneos para regular esta materia, proponiendo un esquema de contenido que debería integrar dicha regulación.

Actuación administrativa automatizada, procedimiento administrativo e IA: Una revisión de las propuestas normativas

Seguidamente, el Dr. Cerrillo i Martínez y la Dra. Velasco Rico analizaron la regulación vigente en materia de actuación administrativa automatizada, con el objetivo de determinar los posibles encajes del uso de la inteligencia artificial en el procedimiento administrativo. A partir de este estudio y de la identificación de sus limitaciones, se propuso una regulación específica que garantice la seguridad jurídica en la utilización de sistemas de inteligencia artificial dentro de la automatización de la actividad administrativa, asegurando, al mismo tiempo, el respeto a los derechos de la ciudadanía en la tramitación de los procedimientos administrativos.

La IA en el marco del derecho a una buena administración y el ejercicio de la discrecionalidad administrativa

El Dr. Juli Ponce Solé, Catedrático de Derecho Administrativo de la Universitat de Barcelona, llevó a cabo un análisis detallado del impacto de la inteligencia artificial en las administraciones públicas desde la perspectiva del principio y derecho a una buena administración. En su exposición, subrayó los riesgos y beneficios que plantea la automatización de la actividad administrativa mediante el uso de algoritmos y otras herramientas de inteligencia artificial, tomando como referencia el Reglamento europeo de 2024. El ponente destacó que, aunque la inteligencia artificial puede mejorar la eficiencia administrativa, también impone desafíos en relación con la transparencia, la motivación de los actos administrativos y la garantía de los derechos ciudadanos.

La automatización del control administrativo

Finalmente, el Dr. Óscar Capdeferro Villagrasa, Profesor Agregado de Derecho Administrativo de la Universitat de Barcelona, analizó la adaptación de la Administración pública a las nuevas tecnologías en el ámbito del control administrativo. En este contexto, se abordó la incorporación de herramientas tecnológicas para la detección de infracciones, las cuales presentan un elevado grado de autonomía y sofisticación. No obstante, el ponente advirtió sobre los posibles problemas jurídicos derivados de esta automatización, tales como la falta de transparencia y la gestión de errores en los resultados generados por los sistemas algorítmicos, en particular, en los casos de falsos positivos o negativos. Se destacó la necesidad de una reforma normativa que garantice un adecuado equilibrio entre la eficiencia de estos sistemas y el respeto a los derechos fundamentales de la ciudadanía.

Evaluación de impacto de los algoritmos y de los sistemas de IA

El Dr. Eduardo Gamero Casado, Catedrático de Derecho Administrativo de la Universidad Pablo de Olavide, y el Dr. Antonio David Berning Prieto, Profesor Contratado Doctor en la misma universidad, abordaron los requisitos de cumplimiento normativo aplicables a los sistemas de inteligencia artificial, tanto en el marco del derecho europeo como en el ordenamiento constitucional español. En particular, mencionan la aplicación del principio de igualdad, la protección de datos y la tutela judicial efectiva en relación con el uso de algoritmos en la Administración. Los ponentes también identificaron los retos que enfrenta el Derecho Público español en lo que respecta a la subsanación de errores, el trámite de audiencia y la debida motivación de los actos administrativos. Finalmente, destacaron la importancia de articular herramientas normativas y mecanismos de soft law para armonizar y estandarizar las obligaciones impuestas a las empresas tecnológicas, asegurando un marco jurídico estable que fomente la inversión en el sector de la inteligencia artificial.

IA y contratación pública

En la continuación del VII Seminario Digitapia, el Dr. Julián Valero Torrijos, Catedrático de Derecho Administrativo de la Universidad de Murcia, y el Dr. Alfonso Sánchez García, Profesor Ayudante Doctor de la misma universidad, examinaron la posible modificación de ciertos preceptos de la Ley 9/2017, de 8 de noviembre, de Contratos del Sector Público, así como de la Ley 31/2022 de Presupuestos Generales del Estado para 2023, con el propósito de mejorar la disponibilidad de datos abiertos, estructurados y de calidad que permitan el uso eficiente de herramientas de inteligencia artificial. En este sentido, reflexionaron sobre los retos procedimentales que plantean los nuevos sistemas de contratación electrónica y su compatibilidad con la incorporación de tecnologías de inteligencia artificial en los procesos de adjudicación.

Inteligencia artificial, competencias digitales del personal al servicio de las administraciones públicas

El Dr. Ramon Galindo Caldés, Profesor Agregado de Derecho Administrativo de la Universidad de Barcelona, inicia su exposición comentando el artículo 4 del Reglamento de Inteligencia Artificial (RIA) de la UE. Destaca que la normativa aún debe prestar mayor atención al uso de las tecnologías por parte de los empleados públicos, lo que subraya la necesidad de reforzar la alfabetización digital, tanto instrumental como experta, del personal de la administración pública. Según el Dr. Galindo Caldés, el RIA tampoco aclara cómo se supervisarán los sistemas algorítmicos que evalúen, en cierta medida, la capacidad de los funcionarios para utilizar los sistemas de inteligencia artificial (SIA). Esta cuestión está estrechamente ligada a los procesos selectivos, pues, en materia de recursos humanos, considera imprescindible que la legislación avance en la regulación de la selección de personal en este ámbito. Asimismo, el uso consciente de la IA y la comprensión de sus riesgos requieren distintos niveles de alfabetización. Otro aspecto relevante señalado por el Dr. Galindo Caldés es la necesidad de implementar un plan de formación continuo. La administración pública debe tener en cuenta que tanto la IA como las tecnologías digitales están en constante evolución y actualización. En este contexto de transformación digital, la educación algorítmica permanente se erige como un deber esencial incluso para garantizar una mayor protección de los derechos.