Milena Costas Trascasas: “La introducción de las neurotecnologías debe hacerse con enorme prudencia”

Milena Costas Trascasas, es consultora de Derechos Humanos, profesora colaboradora del máster universitario de Derechos Humanos y Globalización de la Universitat Oberta de Catalunya (UOC), miembro del Comité Asesor del Consejo de Derechos Humanos de la ONU y relatora de un reciente informe de este organismo sobre las oportunidades, retos e impactos de las neurotecnologías en los derechos humanos, cuyas conclusiones y recomendaciones presentó en un seminario en línea el pasado mes de noviembre. En esta entrevista, la experta nos explica en qué consisten las neurotecnologías y cuáles son los riesgos de esta tecnología tremendamente disruptiva.

¿Qué es exactamente la neurotecnología?

El término abarca toda una serie de dispositivos y técnicas de muy diversa naturaleza, pero que tienen por común denominador que actúan sobre la estructura y la actividad del sistema nervioso y el cerebro humano. De manera general, estas tecnologías se desarrollan con tres propósitos principales: 1) observar, medir y proporcionar información sobre el funcionamiento del cerebro; 2) influir sobre la actividad del cerebro; 3) establecer interfaces de conexión con dispositivos digitales externos.

¿Podría poner algunos ejemplos prácticos en los que se aplique?

Hasta ahora, estas tecnologías se han desarrollado con vistas a su aplicación en el ámbito médico, para diagnosticar y tratar algunas enfermedades neurodegenerativas, como por ejemplo el Parkinson, a fin de devolver la autonomía, la movilidad, o para facilitar la comunicación de las personas con parálisis total del cuerpo. También se están explorando para hacer frente a otras de carácter psiquiátrico, especialmente la depresión resistente a medicamentos. Sin embargo, el uso de este tipo de tecnologías requiere en muchos casos la implantación de electrodos dentro del cerebro, y debido a los riesgos que implican, estos tratamientos se plantean por lo general como un último recurso. Otros tratamientos menos invasivos desde el punto de vista físico, que utilizan dispositivos externos como cascos o diademas, también están siendo utilizados para tratar ciertas enfermedades mentales, o para estimular las capacidades cognitivas a través de impulsos eléctricos o magnéticos.

El problema principal que se plantea actualmente es que la mayor parte de estas tecnologías son experimentales, y no cuentan con estudios que ofrezcan evidencia científica de su eficacia, ni sobre los posibles efectos sobre la mente que su uso puede producir a largo plazo. A pesar de ello, las empresas que los desarrollan están empezando a comercializar algunas aplicaciones fuera del ámbito de la salud, puesto que se han dado cuenta de que sus beneficios serán mucho mayores con la venta directa al consumidor, ya que de esta manera pueden evitar los estrictos controles y regulaciones a los que se someten los mismos productos cuando se destinan al uso médico. Y dado que aún no existen regulaciones específicas ni mecanismos que controlen de manera adecuada el uso de estos dispositivos, estos productos se pueden expandir muy rápidamente.

¿De qué manera?

No es de extrañar que la inversión en esta industria esté creciendo exponencialmente, y las empresas multinacionales estén apostando enormemente por su comercialización, incluso en esta fase experimental, ya que ello les permite no solo desarrollarlas más fácilmente y sin cortapisas, sino además obtener beneficios adicionales, pues se hacen depositarias de la información mental de los usuarios con vistas a su futura explotación.

Por otra parte, resultan preocupantes algunas de las aplicaciones que se están promocionando, especialmente con vistas a ser adquiridas por los Estados, por ejemplo, dentro del ámbito de la seguridad, y que buscan aumentar el arsenal para vigilar y controlar a las personas a través de los dispositivos digitales, ahora con la ayuda de la inteligencia artificial, que permite recopilar y analizar enormes cantidades de datos personales altamente sensibles.

Dentro del ámbito comercial, ya se están promocionado dispositivos capaces de modular la actividad mental a fin de obtener una mayor concentración y productividad en el trabajo o el estudio, o bien para la meditación o para mejorar la calidad del sueño. Si pensamos que muchas personas ya utilizan biosensores, como los relojes inteligentes, es de prever que muy pronto las empresas puedan conseguir que ofrezcan sus datos mentales a cambio de servicios que permitirán monitorizar y analizar su salud mental, comportamientos o emociones.

¿Alguna aplicación controvertida más?

La tecnología aplicada en el ámbito del conocido como neurogaming es la que parece plantear mayores desafíos, y se presenta como revolucionaria, pues permitirá jugar sin una consola, simplemente a través de la mente. Esto, sin embargo, implica que el usuario otorgue el acceso a sus datos mentales a un dispositivo externo, gestionado por un privado, con todos los problemas que ello conlleva. Pensemos no solo en los datos que el usuario pone a disposición de la empresa, sino también en la posibilidad de que su comportamiento, decisiones o sus emociones puedan ser manipulados, afectando a la libertad de pensamiento; en casos extremos se pueden producir atentados contra la integridad física y mental de persona a través del brain-hacking. Algunas empresas como Neuralink, del conocido Elon Musk, están desarrollando chips implantables que ya se promocionan como un posible puente hacia lo que se denomina «aumento cognitivo» de las personas; un concepto que no resulta del todo claro, pero que parece avanzar la idea de una futura hibridación entre la mente humana y los dispositivos digitales.

La introducción de estas tecnologías en nuestra vida cotidiana debe hacerse con una enorme prudencia, determinando cuáles son las aplicaciones beneficiosas (por ejemplo, en el ámbito médico) y cuáles plantean riesgos, especialmente las que se dirigen al consumo de masas.

Entonces, la neurotecnología tiene elementos positivos, pero también no pocos riesgos y peligros.

Cualquier tecnología puede utilizarse de manera beneficiosa o perjudicial. Sin embargo, la neurotecnología presenta unas características que la convierten en especialmente disruptiva por los particulares riesgos que entraña para ciertos derechos que están vinculados a la personalidad y a las características que definen la identidad de una persona. Pueden, por poner un ejemplo, afectar a la capacidad de la persona para pensar libremente, lo que incluye los procesos cognitivos necesarios para la toma de decisiones, o modificar las percepciones o las emociones. Por otra parte, pueden utilizarse para extraer información muy sensible para la persona y para hacer inferencias sobre su vida o personalidad, por lo que los riesgos en materia de privacidad son extremos.  

Estos datos mentales, que suelen denominarse neurodata, con la ayuda de la inteligencia artificial, pueden aportar en un futuro no muy lejano información especialmente valiosa para un uso comercial acerca no ya del comportamiento, sino sobre aquellos aspectos que podríamos definir como la ‘esencia’ de un individuo (su identidad, tendencias sexuales, etc.). Sin duda, la globalización de los mercados y el contexto de liberalismo económico incentivan a que las multinacionales tecnológicas busquen beneficios a través de la minería de datos; esto convierte a la persona y la mente humana en un nuevo ‘recurso’ explotable. Las consecuencias de dejar que las empresas atraviesen ese último bastión de privacidad, que es la mente humana, implica riesgos que aún no se han valorado de manera adecuada. Por eso, ante la velocidad del avance de estas tecnologías y el ansia de las empresas por ponerlas en el mercado, se precisa, además de regulaciones adecuadas, una reflexión calmada y profunda sobre cuáles son aquellas que deben ser introducidas por sus efectos benéficos, y cuáles deben explorarse, pero dentro de un laboratorio.

Los riesgos están ahí, por lo que cuenta…

Un problema esencial es que estas dinámicas comerciales tienden a ignorar los impactos éticos, sociales y legales de estas tecnologías. Así, las cuestiones de cómo ciertos usos pueden afectar a la dignidad y los derechos humanos de la persona suelen ignorarse en un primer momento, y solo se plantean cuando ocurren violaciones, y los problemas o efectos nocivos a todos los niveles resultan ya irreversibles. Esta falta de respeto por los derechos humanos no es solo un problema individual, por la progresiva privación de la persona de sus derechos como la privacidad o la libertad de pensamiento, sino que también tiene importantes repercusiones sociales, pues al estar el control de estas tecnologías en manos de muy pocos, se puede acrecentar la brecha de desigualdad, o pueden ser utilizadas con objetivos discriminatorios. Además, como sabemos, las tecnologías digitales pueden usarse con el objetivo de afectar a los procesos democráticos, para fines autoritarios y acabar minando el Estado de Derecho.

¿Por qué las Naciones Unidas están detrás de esta tecnología?

Se trata de un tema emergente y complejo que pone en entredicho la capacidad de los mecanismos de protección de derechos humanos existentes para hacer frente a estos riesgos sin precedentes. Estamos ante tecnologías que pueden afectar nuestros derechos a través de modalidades hasta ahora desconocidas, y por eso el Consejo de Derechos Humanos pidió en octubre de 2022 a su Comité Asesor que elaborara un informe sobre las oportunidades, retos e impactos de las neurotecnologías en los derechos humanos. Nuestro informe ha sido presentado el pasado mes de septiembre y plantea toda una serie de recomendaciones al Consejo: la principal, la necesidad de desarrollar y adoptar unos principios que puedan orientar a los Estados y demás actores interesados, incluido el sector privado, sobre cómo integrar el enfoque de derechos humanos en las políticas públicas. Consideramos que esto es necesario para hacer frente a los riesgos que se plantean, y de este modo favorecer el desarrollo de esta industria y la alineación de sus objetivos hacia productos que sean de utilidad pública y que no sean perjudiciales para la salud, la dignidad humana o el disfrute de los derechos humanos. Este documento internacional, que en un principio podría ser de derecho blando, serviría también para armonizar las distintas respuestas nacionales.

¿Cómo se puede acceder a él?

El informe se encuentra disponible para su consulta, ha sido traducido a las seis lenguas oficiales de las Naciones Unidas, incluido el español, y también se ha hecho una versión accesible destinada a facilitar su lectura a las personas con dificultades. Con este informe, lo que hemos pretendido son dos cosas: por una parte, ofrecer una visión actualizada sobre la existencia y avance de estas tecnologías; y por otra, poner a disposición de los Estados y otros actores interesados información sobre los principales problemas que se plantean desde el punto de vista de los derechos humanos, con vistas a que se adopten las medidas que sean necesarias para prevenir y anticipar violaciones, abusos o usos indebidos de estas tecnologías.