Algorismes i condicionament per sota del nivell conscient: una anàlisi crítica de la proposta de Llei d’intel·ligència artificial de la Unió Europea

En aquest article, Beltran de Heredia analitza críticament la proposta de Llei d’intel·ligència artificial de la Unió Europea, i se centra en la proposta de redacció de l’art. 5, relativa a l’ús d’algorismes i la possibilitat de condicionar la conducta per sota del nivell conscient. En concret, denuncia que aquesta redacció podria afectar la llibertat i la identitat de les persones, i el condicionament subliminar hauria d’estar totalment prohibit (fins i tot, en cas que beneficiï la persona usuària).

El text examina l’impacte de l’avenç tecnològic en l’accés a processos mentals profunds, i planteja importants implicacions ètiques i socials. Es destaca la capacitat dels algorismes extractius per accedir a estrats neuronals profunds. Segons Beltran de Heredia Ruiz, “els algorismes extractius estarien en condicions d’aixecar el vel del coneixement i accedir (de manera externa i indirecta) a certs processos neuronals profunds”. Aquest accés planteja interrogants sobre la influència en la percepció i la presa de decisions de les persones, i també sobre la protecció de la privacitat i l’autonomia individual.

Aquest fenomen podria accelerar-se a mesura que s’intensifica el que es coneix com a gran desconnexió, és a dir, la tendència a la delegació de decisions en les màquines en diversos àmbits de la societat (i, en particular, en les empreses). Segons l’autor (recollint les reflexions de Harari), “la intel·ligència s’està desconnectant de la consciència”, i, a partir d’això, els “humans corren el perill de perdre el seu valor”.

El text també adverteix de l’amenaça que podria representar l’expansió de la realitat virtual immersiva, o metavers, en aquest context, ja que podria intensificar la capacitat de condicionar subliminarment el comportament humà. Segons Beltran de Heredia Ruiz, “la més que previsible expansió de la realitat virtual immersiva (o metavers) podria aguditzar (superlativament) aquesta amenaça”.

L’article reflexiona sobre els desafiaments ètics i socials que sorgeixen de la interacció cada vegada més profunda entre la tecnologia i la ment humana, i planteja interrogants sobre l’autonomia, la identitat i la privacitat en un món cada vegada més digitalitzat i connectat.

Per desenvolupar més aquestes qüestions, es pot consultar l’article íntegrament a:

Beltran de Heredia Ruiz, I. (2023). Algoritmos y condicionamiento por debajo del nivel consciente: un análisis crítico de la propuesta de Ley de Inteligencia Artificial de la Unión Europea. Revista de la Facultad de Derecho de México, 73(286), 621–650. https://doi.org/10.22201/fder.24488933e.2023.286.86406