Policia predictiva i prevenció de la violència de gènere: el sistema VioGén

És conegut que, a la pràctica, ja s’estan aplicant sistemes predictius, basats o no en la intel·ligència artificial (IA), per intentar anticipar-se a la comissió de possibles delictes i, si escau, adoptar mesures preventives, bé sigui atenent criteris geogràfics (PredPol, CompStat…), eines molt freqüents als Estats Units, o a certes circumstàncies personals, familiars, etc., com és el cas del sistema espanyol VioGén, en què ens aturarem en aquestes línies.

Des de l’entrada en funcionament d’aquest sistema, el 2007, i fins al 30 de setembre del 2023, s’han avaluat 770.944 denúncies de violència de gènere. Del total dels casos registrats hi havia, en aquesta data, 81.319 actius, és a dir, amb seguiment policial i 675.698 inactius. Dels actius, 31.685 eren sense risc apreciat, 35.715 amb risc baix, 13.028 amb risc mitjà, 868 amb risc alt i 23 amb risc extrem; estem parlant del sistema més gran del món en aquest àmbit.

Aquesta eina predictiva no és, en rigor, IA, ja que no fa servir algoritmes que «aprenen» a partir del processament de dades; és un sistema actuarial que utilitza models estadístics per inferir el risc d’agressió o homicidi que una víctima pot córrer a partir d’uns indicadors seleccionats. Un cop conegut el resultat, després de l’aplicació de l’algorisme a 35 preguntes formulades a la dona denunciant, i en funció del nivell de risc predit, s’adoptaran les correlatives mesures policials per a la protecció i la seguretat de les víctimes, que seran d’aplicació obligatòria i immediata.

El valor predictiu negatiu —els supòsits en què es va pronosticar absència de risc i el pronòstic va ser correcte— seria del 98,5% i el positiu —es va pronosticar reincidència i es va produir— del 8,6%. La segona dada pot resultar impactant, però si, a conseqüència d’una valoració de risc alt, s’adopten mesures per minimitzar-la i són eficaces, l’esdeveniment, contràriament al que s’esperava, no es produirà. Podrà semblar que l’estimació va ser “equivocada” i no és necessàriament així.

I si duem a terme una “avaluació del seu impacte algorísmic” (Simón Castellano) sobre els drets del presumpte agressor per valorar si les eventuals limitacions es corresponen amb les conegudes exigències del principi de proporcionalitat, cal concloure, en primer lloc, que VioGén sembla una eina idònia, ja que les mesures que, si escau, afectaran el presumpte agressor, estan vinculades al nivell de risc detectat, és a dir, s’orienten a protegir la vida i la integritat física de la dona mentre siguin necessàries per fer-ho. En segon terme, és, en principi, una eina necessària en termes relatius, ja que no semblen existir sistemes menys costosos per al presumpte agressor que alhora garanteixin de manera similar els drets fonamentals de la dona denunciant; així, si el risc detectat és alt, es farà un control aleatori dels seus moviments i contactes esporàdics amb persones que freqüenti o del seu entorn; si el risc es qualifica d’extrem, es farà un control intensiu dels seus moviments fins que aquest deixi de ser una amenaça imminent per a la seguretat de la víctima. Finalment, és un sistema que aporta proporcionalitat en un sentit estricte entre els drets que es poden veure limitats com a resultat de la seva aplicació i els drets que pretenen garantir-se, ja que es tracta de prediccions fetes per tenir validesa durant un període de temps no gaire llarg que, si escau, implicaran mesures limitatives que es corresponguin amb el pronòstic concret de perillositat aconseguit, i tot això sota la supervisió de persones especialitzades en el tractament i seguiment de la violència de gènere.

No obstant això, i a parer nostre, per dur a terme amb més rigor una avaluació de l’impacte algorítmic i, en suma, de la proporcionalitat de VioGén, és imprescindible més informació sobre la metodologia que la que actualment ofereix el Ministeri de l’Interior; en particular, sobre el valor relatiu dels diferents tipus de dades amb què treballa i sobre com es combinen per al resultat final. Falten, en suma, més rendició de comptes, transparència i explicabilitat i, el que resulta especialment necessari, que es tingui en compte les dones víctimes de violència de gènere en futures actualitzacions del sistema.

Per a un major desenvolupament d’aquestes qüestions, es pot consultar la integritat de l’article esmentat a:

Presno Linera, Miguel Ángel. «Policia predictiva i prevenció de la violència de gènere: el sistema VioGén». IDP. Revista d’Internet, Dret i Política, 2023, Núm. 39, p. 1-13, https://doi.org/10.7238/idp.v0i39.416473.