Milena Costas Trascasas: “La introducció de les neurotecnologies s’ha de fer amb una prudència enorme”

Milena Costas Trascasas, es consultora de drets humans, professora col·laboradora del màster universitari de Drets Humans, Democràcia i Globalització de la Universitat Oberta de Catalunya (UOC), membre del Comitè Assessor del Consell de Drets Humans de l’ONU i relatora d’un informe d’aquest organisme publicat fa poc sobre les oportunitats, els reptes i els impactes de les neurotecnologies en els drets humans, les conclusions i recomanacions del qual va presentar en un seminari en línia el passat mes de novembre. En aquesta entrevista, l’experta ens explica en què consisteixen les neurotecnologies i quins són els riscos d’aquesta tecnologia tremendament disruptiva.

Què és exactament la neurotecnologia?

El terme abasta tot un seguit de dispositius i tècniques de naturalesa molt diversa, però que tenen com a comú denominador que actuen sobre l’estructura i l’activitat del sistema nerviós i el cervell humà. De manera general, aquestes tecnologies es desenvolupen amb tres propòsits principals: 1) observar, mesurar i proporcionar informació sobre el funcionament del cervell; 2) influir sobre l’activitat del cervell, i 3) establir interfícies de connexió amb dispositius digitals externs.

Podria posar alguns exemples pràctics en els quals s’apliqui?

Fins ara, aquestes tecnologies s’han desenvolupat amb vista a la seva aplicació en l’àmbit mèdic, per diagnosticar i tractar algunes malalties neurodegeneratives, com per exemple el pàrkinson, a fi de retornar l’autonomia i la mobilitat, o per facilitar la comunicació de les persones amb paràlisi total del cos. També s’estan explorant per fer front a altres malalties de caràcter psiquiàtric, especialment la depressió resistent a medicaments. No obstant això, l’ús d’aquesta mena de tecnologies requereix, en molts casos, la implantació d’elèctrodes dins del cervell, i a causa dels riscos que impliquen, aquests tractaments es plantegen en general com un últim recurs. Altres tractaments menys invasius des del punt de vista físic, que utilitzen dispositius externs com ara cascos o diademes, també s’estan utilitzant per tractar certes malalties mentals o per estimular les capacitats cognitives a través d’impulsos elèctrics o magnètics.

El problema principal que es planteja actualment és que la major part d’aquestes tecnologies són experimentals i no disposen d’estudis que ofereixin evidències científiques de la seva eficàcia, ni sobre els possibles efectes sobre la ment que el seu ús pot produir a llarg termini. Malgrat això, les empreses que els desenvolupen estan començant a comercialitzar algunes aplicacions fora de l’àmbit de la salut, ja que s’han adonat que els seus beneficis seran molt més grans amb la venda directa al consumidor, ja que d’aquesta manera poden evitar els estrictes controls i regulacions als quals se sotmeten els mateixos productes quan es destinen a l’ús mèdic. I, atès que encara no s’han establert regulacions específiques ni mecanismes que controlin de manera adequada l’ús d’aquests dispositius, aquests productes es poden expandir molt ràpidament.

De quina manera?

No és gens estrany que la inversió en aquesta indústria estigui creixent exponencialment, i les empreses multinacionals estiguin decantant-se enormement per la seva comercialització, fins i tot en aquesta fase experimental, ja que això els permet no només desenvolupar-les més fàcilment i sense noses, sinó també obtenir beneficis addicionals, perquè es fan dipositàries de la informació mental de les persones usuàries amb vista a la seva explotació futura.

D’altra banda, són preocupants algunes de les aplicacions que s’estan promocionant, especialment si són adquirides pels Estats, per exemple, dins de l’àmbit de la seguretat, i que pretenen augmentar l’arsenal per vigilar i controlar les persones a través dels dispositius digitals, ara amb l’ajuda de la intel·ligència artificial, que permet recopilar i analitzar quantitats enormes de dades personals altament sensibles.

Dins de l’àmbit comercial, ja s’estan promocionant dispositius capaços de modular l’activitat mental a fi d’augmentar la concentració i la productivitat en el treball o l’estudi, o bé per a la meditació o per millorar la qualitat del son. Si pensem que moltes persones ja utilitzen biosensors, com els “rellotges intel·ligents”, és de preveure que molt aviat les empreses puguin aconseguir que ofereixin les seves dades mentals a canvi de serveis que permetran monitorar i analitzar la seva salut mental, comportaments o emocions.

Hi ha cap més aplicació controvertida?

La tecnologia aplicada en l’àmbit d’allò que es coneix com a neurogaming és la que sembla plantejar més desafiaments, i es presenta com a revolucionària, perquè permetrà jugar sense una consola, simplement a través de la ment. Això, tanmateix, implica que l’usuari atorgui l’accés a les seves dades mentals a un dispositiu extern, gestionat per un ens privat, amb tots els problemes que això comporta. Pensem no sols en les dades que l’usuari posa a la disposició de l’empresa, sinó també en la possibilitat que el seu comportament, les seves decisions o les seves emocions puguin ser manipulats, cosa que pot afectar la llibertat de pensament; en casos extrems, es poden produir atemptats contra la integritat física i mental de la persona a través del brain-hacking. Algunes empreses com Neuralink, del conegut Elon Musk, estan desenvolupant xips implantables que ja es promocionen com un possible pont cap al que es denomina “augment cognitiu” de les persones; un concepte que no és del tot clar, però que sembla avançar la idea d’una hibridació futura entre la ment humana i els dispositius digitals.

La introducció d’aquestes tecnologies en la nostra vida quotidiana s’ha de fer amb una prudència enorme, determinant quines són les aplicacions beneficioses (per exemple, en l’àmbit mèdic) i quines plantegen riscos, especialment les que es dirigeixen al consum de masses.

Llavors, la neurotecnologia té elements positius, però també molts riscos i perills.

Qualsevol tecnologia es pot fer servir de manera beneficiosa o perjudicial. No obstant això, la neurotecnologia presenta unes característiques que la converteixen en especialment disruptiva pels riscos particulars que comporta per a certs drets que estan vinculats a la personalitat i a les característiques que defineixen la identitat d’una persona. Per posar un exemple, poden afectar la capacitat de la persona per pensar lliurement, cosa que inclou els processos cognitius necessaris per a la presa de decisions, o modificar les percepcions o les emocions. D’altra banda, es poden utilitzar per extreure informació molt sensible per a la persona i per fer inferències sobre la seva vida o personalitat, per la qual cosa els riscos en matèria de privacitat són molt elevats.

Aquestes dades mentals, que s’acostumen a denominar neurodata, amb l’ajuda de la intel·ligència artificial, poden aportar, en un futur no gaire llunyà, informació especialment valuosa per a un ús comercial sobre no tan sols el comportament, sinó també sobre els aspectes que podríem definir com l'”essència” d’un individu (la seva identitat, les seves tendències sexuals, etc.). Sens dubte, la globalització dels mercats i el context de liberalisme econòmic incentiven el fet que les multinacionals tecnològiques busquin beneficis a través de la mineria de dades; això converteix la persona i la ment humana en un nou recurs explotable. Les conseqüències de deixar que les empreses travessin aquest darrer bastió de privacitat, que és la ment humana, implica riscos que encara no s’han valorat adequadament. Per això, en vista de la velocitat de l’avenç d’aquestes tecnologies i l’ànsia de les empreses per posar-les en el mercat, cal, a més de regulacions adequades, una reflexió calmada i profunda sobre quines són les tecnologies que s’han d’introduir pels seus efectes beneficiosos i quines s’han d’explorar, però dins d’un laboratori.

Els riscos són aquí, tenint en compte el que em diu…

Un problema essencial és que aquestes dinàmiques comercials tendeixen a ignorar els impactes ètics, socials i legals d’aquestes tecnologies. Així, les qüestions de com certs usos poden afectar la dignitat i els drets humans de la persona s’acostumen a ignorar en un primer moment, i només es plantegen quan es produeixen violacions, i els problemes o efectes nocius a tots els nivells ja són irreversibles. Aquesta manca de respecte pels drets humans no és només un problema individual, pel fet de privar la persona progressivament dels seus drets com la privacitat o la llibertat de pensament, sinó que també té repercussions socials importants, ja que, com que el control d’aquestes tecnologies està en mans de molt pocs, pot augmentar la bretxa de desigualtat o es poden emprar amb objectius discriminatoris. A més, com ja sabem, les tecnologies digitals es poden fer servir amb l’objectiu d’afectar els processos democràtics, per a finalitats autoritàries i acabar minant l’estat de dret.

Per què les Nacions Unides van darrere d’aquesta tecnologia?

Es tracta d’un tema emergent i complex que posa en dubte la capacitat dels mecanismes de protecció de drets humans existents per fer front a aquests riscos sense precedents. Estem davant de tecnologies que poden afectar els nostres drets a través de modalitats fins ara desconegudes, i, per això, el Consell de Drets Humans va demanar l’octubre del 2022 al seu Comitè Assessor que elaborés un informe sobre les oportunitats, els reptes i els impactes de les neurotecnologies en els drets humans. El nostre informe es va presentar el mes de setembre passat i planteja tota una sèrie de recomanacions al Consell: la principal, la necessitat de desenvolupar i adoptar uns principis que puguin orientar els Estats i altres actors interessats, inclòs el sector privat, sobre com integrar l’enfocament de drets humans en les polítiques públiques. Considerem que això és necessari per afrontar els riscos que es plantegen, i d’aquesta manera afavorir el desenvolupament d’aquesta indústria i l’alineació dels seus objectius envers productes que tinguin utilitat pública i que no siguin perjudicials per a la salut, la dignitat humana o el gaudi dels drets humans. Aquest document internacional, que al començament podria ser de dret tou, serviria també per harmonitzar les diferents respostes nacionals.

Com s’hi pot accedir?

L’informe està disponible per ser consultat, ha estat traduït a les sis llengües oficials de les Nacions Unides, inclòs l’espanyol, i també se n’ha fet una versió accessible destinada a facilitar-ne la lectura a les persones amb dificultats. Amb aquest informe, el que pretenem són dues coses: d’una banda, oferir una visió actualitzada sobre l’existència i el progrés d’aquestes tecnologies, i, d’una altra, posar a la disposició dels Estats i altres actors interessats informació sobre els principals problemes que es plantegen des del punt de vista dels drets humans, per aconseguir que s’adoptin les mesures que siguin necessàries per prevenir i anticipar violacions, abusos o usos indeguts d’aquestes tecnologies.