Predir el passat

Una de les promeses més importants de l’anàlisi de dades és la capacitat d‟avançar-se al futur. En vista de les crisis i els riscos que ens amenacen, és lògic el desig que la política sigui menys reactiva i més proactiva. La Comissió Europea celebra la “intel·ligència anticipatòria” que dotaria els sistemes polítics de capacitat per gestionar els desafiaments del llarg termini. L’anomenada “policia preventiva” s’acaba de traduir en l’ampliació dels poders de l’Europol perquè reculli més dades i es pugui anticipar a possibles crims.

Si ningú no dubta que l’anticipació del futur és de gran rellevància per a les decisions col·lectives dels nostres sistemes polítics, el procediment a través de l’anàlisi de dades té els seus límits i paradoxes. Cal tenir en compte, d’entrada, que els algorismes estan programats per veure alguna cosa únicament com a patrons, és a dir, com a regla, quan ho reconeixen estadísticament després d’haver examinat una gran quantitat de dades, però no paren atenció al cas individual. La Federal Trade Commission americana ens proporciona un exemple il·lustratiu en mostrar que els algorismes poden rebutjar drets sobre la base d’accions d’altres individus amb els quals es comparteixen certes característiques. És el cas d’una societat de cartes de crèdit que va disminuir la quantitat disponible d’un dels clients a partir de l’anàlisi efectuada sobre altres clients que freqüentaven les mateixes botigues i que tenien un mal historial de pagament. Aquestes pràctiques contribueixen a una forma de desindividualització, tractant les persones a partir de característiques o perfils a què són assimilats en comptes d’observar el propi comportament.

Pensem en el fet que un programa com a COMPAS, que calcula el risc de reincidència dels detinguts i s’empra per decidir la seva situació carcerària, és incapaç de tractar amb equitat els blancs i els negres. Les prediccions solen encertar quan adverteixen que un grup de població sol cometre més delictes que un altre, però no es pregunta per què això és així i encara menys es planteja decisions polítiques per posar remei a aquesta condició. El problema consisteix que la predicció analítica confereix a l’statu quo una capacitat de prescripció, que les dades analitzades estan plenes de desigualtats i aquestes desigualtats es reforcen mitjançant previsions suposadament normatives.

El fet que els sistemes de machine learning busquin patrons per convertir-los en regles de la predicció d’esdeveniments futurs vol dir que l’únic coneixement que produeixen té a veure amb el passat. Tot el que poden pronosticar ja està d’alguna manera anticipat en el passat. Per a moltes qüestions, aquesta manera de procedir és de gran utilitat i no planteja més problemes, per exemple. Ara bé, un sistema algorítmic no pronostica pròpiament si algú cometrà un delicte. Les úniques dades de què disposa aquest sistema són les dades relatives a detencions i condemnes en el passat. Aquestes bases de dades contenen tots els prejudicis racials i la vinculació que existeix de fet entre la criminalitat i la situació de pobresa. El pronòstic de perillositat es realitza a partir de dades com, per exemple, si aquesta persona o el seu entorn d’amics i familiars han estat detinguts en el passat, quines van ser les seves notes, si els pares estan separats, si està aturat, si viu a un barri on es cometen aquest tipus de delictes, però també sobre els trets que comparteix amb persones similars… Un veritable cercle viciós amb l’efecte sistemàtic, per exemple, de castigar més els negres perquè hi va haver més negres condemnats en el passat. Es tracta d’un biaix racista procedent del passat que no té res a veure amb la persona concreta, però que té efectes decisius sobre ella. Els individus són afectats així per mesures que s’adopten en funció de pronòstics basats en el passat i en col·lectius.

Des del punt de vista de la dinàmica social, els límits de les extrapolacions a partir del passat es deuen a la dinàmica no lineal dels sistemes complexos i a l’encara més enigmàtica llibertat humana. Hi ha molts fenòmens de rebel·lió i canvi que interrompen l’extrapolació previsible i dels que resulta inesperat i inesperable a partir de les dades disponibles. La predicció és un biaix generalitzat; per molts encerts que tingui, sempre generalitza de manera injusta, és a dir: hi haurà qui compleixi el criteri i no sigui qui estàvem buscant. Com calcular la versemblança d’una ruptura de les expectatives que s’han formulat únicament sobre la base de dades existents, és a dir, dades del passat? Aquesta és la gran qüestió que hauria de conduir-nos almenys a una major consciència dels límits de tota predicció.

Una crítica de la raó predictiva hauria de revisar el marc conceptual en què es mou la idea dominant de predicció. La diferència entre el que és possible i el que és real, entre la propensió i la causalitat, és l’única cosa que pot assegurar el principi de presumpció d’innocència a l’era dels algorismes. Forma part de la condició humana tant l’esforç per anticipar el futur com la nostra resistència a deixar-nos atrapar per aquesta anticipació, la nostra capacitat de desafiar allò impossible i decebre allò esperable. Un món de turbulències i volatilitat, un sistema polític amb què els ciutadans som cada vegada més exigents, necessita més i millors previsions. Les prediccions seran més exactes com més conscients siguin dels límits, de la dependència contextual i la necessitat d’interpretació.

Per a un major desenvolupament d’aquestes qüestions, es pot consultar la integritat de l’article esmentat a:

Innerarity, Daniel. «Predient el passat: una crítica filosòfica de l’anàlisi predictiva». IDP. Revista d’Internet, Dret i Política, 2023, Núm. 39, p. 1-12, https://doi.org/10.7238/idp.v0i39.409672.