Més enllà de la caixa negra: cap a una justícia civil assistida per la intel·ligència artificial

Un dels articles que integren el núm. 43 de la Revista IDP és “Més enllà de la caixa negra: la IA en els jutjats de l’ordre civil (una proposta heurística)”, elaborat per Cristina Caja i Elio Quiroga, docents en la Universidad del Atlántico Medio.

La intel·ligència artificial (IA) està transformant sectors tan diversos com la medicina, l’educació i ara, potencialment, el sistema judicial. Pot la IA ajudar a millorar la justícia sense comprometre la humanitat intrínseca del dret?

Un dels principals problemes que afronten els sistemes d’IA generativa actuals és la seva naturalesa de “caixa negra”: produeixen resultats sense explicar clarament com hi han arribat. Això és especialment problemàtic en l’àmbit judicial, en què la transparència i la justificació de les decisions són fonamentals per mantenir la confiança ciutadana en el sistema.

La nostra proposta ofereix una solució elegant: utilitzar xarxes neuronals supervisades en lloc de sistemes generatius. Aquestes xarxes s’entrenen amb dades prèviament etiquetades i poden explicar el raonament que hi ha darrere de les seves decisions, superant així el problema de l’opacitat.

L’elecció dels jutjats civils com a camp de proves no és casual. Els investigadors identifiquen diverses característiques que fan d’aquesta jurisdicció l’entorn ideal per experimentar amb la IA:

• Estructura predictible: els casos civils segueixen patrons més homogenis que altres tipus de litigis.
• Proves documentals: es basen principalment en contractes, factures i documents objectius.
• Menor impacte ètic: els errors en casos civils generalment involucren disputes econòmiques, no la llibertat personal.
• Abundància de dades: existeix un ampli corpus de sentències etiquetades en bases com CENDOJ.

El cor de la proposta rau en els models Transformer, la mateixa tecnologia base de sistemes com ChatGPT, però adaptada per a l’ús judicial. Específicament, suggerim utilitzar models com BERT o LegalBERT, entrenats específicament en documents legals.

Aquests sistemes ofereixen diversos avantatges, com ara la comprensió contextual (poden analitzar documents legals complexos i establir relacions entre diferents elements), l’explicabilitat (mitjançant mecanismes d’atenció, poden assenyalar quines parts del text han estat clau per a la seva decisió) i la consistència (ajudarien a garantir que casos similars rebin tractaments similars).

El més destacable d’aquesta proposta és l’enfocament experimental. Suggerim una implementació en forma de test que impliqui crear un sistema paral·lel que analitzi els mateixos casos que els jutges humans, generi decisions i explicacions independents, compari resultats per avaluar l’efectivitat de la IA i proporcioni dades per millorar el sistema. Aquest mètode permetria acumular evidència empírica sobre la utilitat de la IA en l’àmbit judicial sense interferir en els processos reals.

Des d’una perspectiva filosòfica, la proposta planteja qüestions fonamentals sobre la naturalesa de la justícia, que no hem eludit. Pot un sistema automatitzat captar la dimensió ètica i humana del dret? Aquesta tensió és ineludible, i proposem que la IA actuï com un instrument de suport que enriqueixi el raonament jurídic sense substituir el judici humà. Aquesta perspectiva s’alinea amb conceptes com la “justícia procedimental”, en què la consistència i l’eliminació de biaixos arbitraris són valors fonamentals.

La proposta no està exempta de desafiaments. Tal vegada els dos desafiaments principals són els biaixos en les dades d’entrenament (la IA podria perpetuar-los) i l’acceptació social: estem preparats per acceptar la IA com a eina judicial de ple dret?

El futur de la justícia probablement no serà ni completament humà ni completament automatitzat, sinó fruit d’una col·laboració intel·ligent entre tots dos extrems. Aquesta recerca vol acostar-nos un pas més a aquest futur, en què la tecnologia serveix per enfortir la saviesa humana en l’administració de justícia, no per reemplaçar-la.

Per a un desenvolupament més ampli d’aquestes qüestions, es pot consultar íntegrament l’article esmentat a:

CAJA MOYA, Cristina; QUIROGA RODRÍGUEZ, Elio. “Más allá de la caja negra: la IA en los juzgados del orden civil (una propuesta heurística)”. IDP. Revista de Internet, Derecho y Política, 2025, núm. 43, pàg. 1-14. DOI: https://doi.org/10.7238/idp.v0i43.432360