Neurotecnologia: els desafiaments emergents segons el Consell de Drets Humans de les Nacions Unides

En els darrers anys, la neurotecnologia ha emergit com un àmbit amb un potencial preocupant d’impactar en els drets humans. Els veloços avenços de la neurotecnologia se centren en diverses eines destinades a interpretar, reproduir, gravar i, fins i tot, influir en la ment. En alguns casos, el seu desenvolupament es realitza amb finalitats mèdiques i, en altres, ocupant un lloc cada cop més important, l’objectiu és ús comercial. Àmbits que fins fa poc semblaven inaccessibles, com ara les intencions, les preferències o les decisions, es troben sota amenaça de ser llegides o veure’s influïdes a través de la neurotecnologia. Això genera nous reptes de protecció de drets humans bàsics.

La importància i els riscos relacionats amb la neurotecnologia ha començat a ser objecte d’atenció en el marc del Consell de Drets Humans de les Nacions Unides, que va demanar al seu Grup Assessor (A/HRC/RES/51/3, 13 d’octubre de 2022) realitzar un estudi “sobre els efectes, les oportunitats i els reptes de la neurotecnologia en relació amb la promoció i la protecció de tots els drets humans”. L’estudi ha estat recentment publicat i presentat al Consell de Drets Humans per a la seva valoració en el 57è període de sessions (setembre de 2024) ¹.

Llibertat de pensament: una amenaça emergent

La llibertat de pensament, recollit a l’article 18 de Pacte Internacional de Drets Civils i Polítics, és un dels drets a protegir davant de l’avenç de la neurotecnologia. La ciència encara no ha aconseguit la possibilitat de saber exactament el que una persona està pensant, però sí que és capaç de llegir dades de l’activitat cerebral i fer inferències sobre allò que una persona està pensant. Aquí els avenços en la intel·ligència artificial poden jugar un paper rellevant, ja que permeten crear perfils individuals, anticipar accions o intencions. Com observa l’estudi, “sobre la base d’aquestes inferències, els dispositius de neurotecnologia també poden intervenir per modificar els pensaments” ² . Un aspecte preocupant és que algunes d’aquestes tecnologies poden operar a la ment d’una persona sense que sigui conscient i sense el seu consentiment. Encara més, els riscos no es limiten a la possibilitat de modificació de la identitat d’una persona; van més enllà, poden esfondrar els fonaments de la democràcia interferint en la llibertat d’opinió o expressió.

En l’àmbit de l’administració de justícia es corre el risc que l’ús d’aquests sistemes condueixi a la sanció d’una persona pels seus pensaments o intencions. Hi ha àmbits molt sensibles per als quals s’han establert excepcions als drets humans, com són la seguretat nacional o el manteniment de l’ordre públic, que poden obrir una finestra a l’abús de les neurotecnologies davant d’idees o intencions de naturalesa terrorista.

A més, les normes sobre llibertat de pensament van ser desenvolupades en una època prèvia als desenvolupaments de la neurotecnologia i, de fet, han tingut una aplicació limitada. Per aquesta raó, l’estudi observa que, potser, cal desenvolupar normes específiques, entre les quals s’ha d’incloure el dret que no s’utilitzin aquestes tecnologies sense el consentiment previ vàlid ³.

Privadesa mental, integritat personal i consentiment informat

L’estudi també fa referència a la necessitat de protecció de la vida privada, dret a què fa referència l’article 17 del Pacte de Drets Civils i Polítics. L’accés a la ment a través de les neurotecnologies implica una finestra a informació personal, amb el risc afegit del seu ús o distribució no autoritzada. La vulneració del dret a la vida privada també pot passar en el cas d’interferències amb la presa de decisions autònoma per part de les persones. L’orientació sexual, les intencions, les creences, les emocions són exemples de “neurodades” de caràcter extremadament sensible que poden quedar al descobert a través de la neurotecnologia. Més encara, hi ha el risc que s’utilitzin tècniques per manipular el consentiment per accedir a les neurodades com ara oferir serveis gratuïts. L’accés a la informació personal de la ment pot donar lloc a la discriminació, per exemple, als àmbits laborals i de cobertura d’assegurances; igual que l’ús de la neurotecnologia per monitorar les persones en l’àmbit laboral, educatiu o privat pot conduir a abusos i vulneracions daquest dret. Ara bé, a alguns llocs, especialment a Europa, s’han desenvolupat normatives regionals i nacions sobre la protecció de dades de caràcter personal. Tot i això, l’estudi observa que aquests marcs no protegeixen prou les dades cerebrals. Per tant, es poden requerir normes específiques, incloses les referides al consentiment per a l’accés o el processament d’aquestes dades. L’estudi destaca, a més, que cal abundar en l’estudi de la relació entre la privadesa mental i la llibertat de pensament ⁴.

El dret a la integritat personal, a què fan referència l’article 1 de la Declaració Universal dels Drets Humans i l’article 17 de la Convenció sobre els Drets de les Persones amb Discapacitat, es pot veure vulnerat en els casos en què les persones veuen afectada la seva autonomia pel que fa al control del cos i de la ment. La salut mental, la identitat i la personalitat també es poden veure afectats quan la neurotecnologia s’aplica per tal de modificar els processos o el funcionament mental. El fet que s’apliquin com a tractament mèdic o psicològic no disminueix el risc. L’estudi insisteix en la importància de reafirmar i enfortir les normes sobre el consentiment vàlid, lliure i informat i, en el context específic dels tractaments de salut, el dret a triar o rebutjar aquests tractaments sent degudament informats dels riscos i beneficis, amb mecanismes de protecció especials per als grups vulnerables ⁵. A l’àmbit militar es recomana que quedin prohibits els usos coercitius de la neurotecnologia que busquen millorar l’exercici en combat, així com limitar els usos no coercitius.

El Dret al gaudi del més alt nivell possible de salut física i mental, previst a l’article 12 del Pacte Internacional de Drets Econòmics, Socials i Culturals, així com a l’article 25 de la Convenció sobre els Drets de les Persones amb Discapacitat, pot veure’s afectat, particularment per l’ús de tecnologies experimentals els efectes de les quals en la salut són difícilment valorables. L’estudi adverteix que això alhora s’ha de tenir en compte a l’hora de determinar la validesa del consentiment donat per a l’accés o l’ús, en virtut que no se sap exactament a què s’està renunciant o quins seran els efectes en la salut física o mental. Addicionalment, no se n’han de tractar de la mateixa manera l’ús en un context mèdic i les que estan destinades a produir algun tipus de millora en persones que gaudeixen de bona salut.

Protecció dels drets en contextos vulnerables

Les neurotecnologies amb utilitats mèdiques i psicològiques que han demostrat ser efectives i segures poden vulnerar drets humans d’altres maneres. Per exemple, quan el seu accés es determina mitjançant criteris que resulten en algun tipus de discriminació. Per tant, l’estudi recorda que els Estats han de garantir que els usos mèdics i comercials de les neurotecnologia amb estrictes estàndards de seguretat, considerant especialment les necessitats de grups vulnerables, com ara les persones menors d’edat, les d’edat avançada i les que estan afectades per discapacitats ⁶.

L’estudi també adverteix sobre els riscos potencials de l’ús coercitiu d’aquestes tecnologies a les persones privades de llibertat, sigui amb finalitats d’experimentació mèdica o per obtenir proves o confessions de delictes. L’aplicació de les neurotecnologies en aquest context es podria considerar contrari a l’article 7 del Pacte Internacional de Drets Civils i Polítics que prohibeix amb caràcter absolut la tortura i els tractes o penes cruels, inhumans o degradants. Així mateix, pot ser contrari al dret a un judici imparcial i vulnerar garanties de processals bàsiques, com ara la presumpció d’innocència o el dret a no autoincriminar-se. En aquest sentit, l’estudi sosté que les legislacions nacionals han de garantir la invalidesa dels mitjans de prova o les confessions obtingudes per aquests mitjans, i l’Estat ha de demostrar, arribat el cas, l’obtenció legítima de les mateixes ⁷. Igualment, ha de quedar prohibida qualsevol forma de pressió a les persones privades de llibertat com les tècniques de “lectura de cervell”.

Sembla evident que la neurotecnologia no s’hauria de desenvolupar sense comptar amb un marc adequat de protecció dels drets humans que eviti o limiti els riscos descrits. Sobre la base d’aquest estudi, ara correspon al Consell de Drets Humans decidir les mesures que consideri que siguin necessàries per garantir la protecció dels drets humans davant l’avenç de la neurotecnologia. Com observa l’estudi, “en el context de les tecnologies altament disruptives, l’anticipació és fonamental” ⁸. Per tant, ara és el moment d’estudiar i començar a regular aquestes tecnologies, que majoritàriament es troba en estat experimental.

Conscients de la importància que té aquest àmbit, el Màster Universitari en Drets Humans i Globalització de la UOC ha estat actualitzat recentment per incloure la neurotecnologia com un nou bloc d’estudi, conjuntament amb altres aspectes relacionats amb els drets humans i el medi ambient o amb els nous reptes de la societat digital.

1. Informe del Grup Assessor del Consell de Drets Humans, Efectes, oportunitats i reptes de la neurotecnologia en relació amb la promoció i la protecció de tots els drets humans, A/HRC/57/61, 8 d’agost de 2024. ↩︎
2. Ibid, para. 19 ↩︎
3. Ibid, para. 22. ↩︎
4. Ibid, per a 26. ↩︎
5. Ibid, pares. 28-29. ↩︎
6. Ibid, para. 33. ↩︎
7. Ibid, para. 35. ↩︎
8. Ibid, para. 14. ↩︎