Policía predictiva y prevención de la violencia de género: el sistema VioGén

Es conocido que, en la práctica, ya se están aplicando sistemas predictivos, basados o no en la inteligencia artificial (IA), para tratar de anticiparse a la comisión de posibles delitos y, en su caso, adoptar medidas preventivas, bien sea atendiendo a criterios geográficos (PredPol, CompStat…), herramientas muy frecuentes en Estados Unidos, o a ciertas circunstancias personales, familiares, etc., como es el caso del sistema español VioGén, en el que nos detendremos en estas líneas. 

Desde la entrada en funcionamiento de este sistema, en 2007, y hasta el 30 de septiembre de 2023, se han evaluado 770.944 denuncias de violencia de género. Del total de los casos registrados había, en esa fecha, 81.319 activos, es decir, con seguimiento policial, y 675.698 inactivos. De los activos, 31.685 eran sin riesgo apreciado, 35.715 con riesgo bajo, 13.028 con riesgo medio, 868 con riesgo alto y 23 con riesgo extremo; estamos hablando del mayor sistema del mundo en ese ámbito.

Esta herramienta predictiva no es, en rigor, IA, pues no usa algoritmos que «aprenden» a partir del procesamiento de datos; es un sistema actuarial que utiliza modelos estadísticos para inferir el riesgo de agresión u homicidio que puede correr una víctima a partir de unos indicadores seleccionados. Una vez conocido el resultado, después de la aplicación del algoritmo a 35 preguntas formuladas a la mujer denunciante, y en función del nivel de riesgo predicho, se adoptarán las correlativas medidas policiales para la protección y seguridad de las víctimas, que serán de aplicación obligatoria e inmediata.

El valor predictivo negativo —los supuestos en los que se pronosticó ausencia de riesgo y el pronóstico fue correcto— sería del 98,5% y el positivo —se pronosticó reincidencia y se produjo— del 8,6%. El segundo dato puede resultar llamativo, pero si, como consecuencia de una valoración de riesgo alto, se adoptan medidas para minimizarlo y son eficaces, el evento, contrariamente a lo esperado, no se producirá. Podrá parecer que la estimación fue “equivocada” y no necesariamente es así.

Y si llevamos a cabo una “evaluación de su impacto algorítmico” (Simón Castellano) sobre los derechos del presunto agresor para valorar si las eventuales limitaciones se corresponden con las conocidas exigencias del principio de proporcionalidad, cabe concluir, en primer lugar, que VioGén parece una herramienta idónea, pues las medidas que, en su caso, afectarán al presunto agresor, están vinculadas al nivel de riesgo detectado, es decir, se orientan a proteger la vida y la integridad física de la mujer en tanto que sean necesarias para ello. En segundo término, es, en principio, una herramienta necesaria en términos relativos, pues no parecen existir sistemas menos gravosos para el presunto agresor que al tiempo garanticen de forma similar los derechos fundamentales de la mujer denunciante; así, si el riesgo detectado es alto se hará un control aleatorio de sus movimientos y contactos esporádicos con personas que frecuente o de su entorno; si el riesgo se califica como extremo se hará un control intensivo de sus movimientos hasta que este deje de ser una amenaza inminente para la seguridad de la víctima. Finalmente, es un sistema que aporta proporcionalidad en un sentido estricto entre los derechos que pueden verse limitados como resultado de su aplicación y los derechos que pretenden garantizarse, pues se trata de predicciones hechas para tener validez durante un período de tiempo no muy largo que, en su caso, implicarán medidas limitativas que se correspondan con el pronóstico concreto de peligrosidad alcanzado, y todo ello bajo la supervisión de personas especializadas en el tratamiento y seguimiento de la violencia de género. 

No obstante, y a nuestro juicio, para llevar a cabo con más rigor una evaluación del impacto algorítmico y, en suma, de la proporcionalidad de VioGén, es imprescindible más información sobre su metodología que la que actualmente ofrece el Ministerio del Interior; en particular, sobre el valor relativo de los diferentes tipos de datos con los que trabaja y sobre cómo se combinan para el resultado final. Faltan, en suma, mayor rendición de cuentas, transparencia y explicabilidad y, lo que resulta especialmente llamativo, que se tenga en cuenta a las mujeres víctimas de violencia de género en futuras actualizaciones del sistema.

Para un mayor desarrollo de tales cuestiones, puede consultarse la integridad del mencionado artículo en:

Presno Linera, Miguel Ángel. «Policía predictiva y prevención de la violencia de género: el sistema VioGén». IDP. Revista de Internet, Derecho y Política, [en línea], 2023, nº 39, UOC http://dx.doi.org/10.7238/idp.v0i39.416473