El empleo de la IA en la Administración de Justicia tiene, también, una “cara B”
4 julio, 2022
Uno de los artículos que integran núm. 35 de la Revista IDP es Empleo de ‘big data’ y de inteligencia artificial en el ciberpatrullaje: de la tiranía del algoritmo y otras zonas oscuras, elaborado por Pilar Martín Ríos, profesora titular de Derecho Procesal de la Universidad de Sevilla. En relación con el mismo, destaca la citada autora en los siguientes aspectos:
Es indudable que el recurso a los múltiples servicios y utilidades que la IA pone a nuestra disposición facilita la realización de muchos de los quehaceres diarios. El ámbito de la Administración de Justicia no es una excepción. Sin embargo, pese a aliviar la carga de trabajo de los distintos operadores jurídicos, es su aplicación en el seno de la justicia penal la que nos sitúa en un escenario en el que los derechos fundamentales pueden resultar expuestos. No en vano, las nuevas tecnologías albergan –como contrapartida a las posibilidades quasi infinitas que ofrecen para la investigación y represión del crimen- el riesgo de que se comprometan las más elementales garantías procesales.
En el ejercicio de las tareas policiales de prevención e investigación, por ejemplo, el patrullaje de fuentes abiertas proporciona resultados muy relevantes en la lucha contra la cibercriminalidad. Sin embargo, ha de acogerse con mayor escepticismo su uso para el trazado de perfiles de los ciudadanos.
Del mismo modo, puesto que la labor preventiva policial que se articula en atención a patrones predictivos requiere un volumen considerable de datos para su ejecución, resulta especialmente importante que exista cierto control acerca del modo en que se procede a su recolección, así como de las fuentes empleadas para ello.
Aunque constituya una cuestión importante, es también paradójico que las mayores suspicacias acerca de la labor de la IA en la detección de patrones y, como consecuencia de ello, en la predicción de comportamientos delictivos –que es especialmente delicada cuando se trata de vaticinar tendencias criminales de sujetos individualizados–, radiquen en aspectos vinculados a la intervención humana en dicho proceso. Sin duda, ha de tenderse a la erradicación de los diferentes sesgos –que, cierto es, inutilizan los resultados que se obtengan–, pero, junto a ello, ha de huirse de la consideración de que las máquinas operan de manera infalible, so riesgo de acabar incurriendo en una verdadera «tiranía del algoritmo».
Para un mayor desarrollo de tales cuestiones, puede consultarse la integridad del mencionado artículo en:
MARTÍN RÍOS, Pilar (2022). «Empleo de big data y de inteligencia artificial en el ciberpatrullaje: de la tiranía del algoritmo y otras zonas oscuras». IDP. Revista de Internet, Derecho y Política, núm. 36. UOC. http://dx.doi.org/10.7238/idp.v0i36.394511
