Ignasi Beltran: “Una regulación que ampare el yo inconsciente es el mejor legado que podemos dejar a nuestros hijos”

Ignasi Beltran de Heredia Ruiz es profesor y subdirector de Docencia de los Estudios de Derecho y Ciencia Política. Este mes de junio ha publicado el libro Inteligencia artificial y neuroderechos: la protección del yo inconsciente de la persona, donde analiza cómo los algoritmos encuentran los patrones de conducta de la mente inconsciente y cómo pueden usar esta información para condicionar nuestro comportamiento subliminalmente. Además, muestra su firme convicción de regular la inteligencia artificial (IA), una cuestión que ya está en la agenda inminente del G7. 

Eres experto en derecho del trabajo. ¿Cómo pasas a interesarte por las TIC y, en concreto, por la IA?

Ha sido un camino un poco largo y, quizás, también tortuoso… Siempre he pensado que es importante evaluar la eficiencia de las normas. Cuando se hace una ley, también debe medirse si consigue los objetivos que persigue y si lo hace con los recursos adecuados. Con el tiempo, empecé a pensar que existe una estrecha relación entre la psicología y el derecho. Porque si estamos haciendo normas para que las personas se comporten de una determinada manera, es imprescindible conocer la psicología de la conducta de los destinatarios de estas reglas, y así tratar de anticipar su reacción y evaluar su comportamiento. Eso me llevó a investigar sobre los avances de la neurociencia y, especialmente, sobre cómo la tecnología nos está ayudando a entender el funcionamiento del cerebro. Aunque es un órgano muy esquivo y todavía son muchas las incógnitas sobre su funcionamiento, a medida que avance el conocimiento en este ámbito podremos aspirar a hacer normas mejores que permitan anticipar el comportamiento de las personas y, de este modo, estaremos en mejor disposición para alcanzar los objetivos de política legislativa.

Interesante… 

Por otra parte, el Derecho del Trabajo es una disciplina jurídica que ha tenido que lidiar con el impacto de los avances tecnológicos en las relaciones de trabajo y, obviamente, en los derechos fundamentales de las personas trabajadoras. Por ejemplo, la implementación de mecanismos de vigilancia y control de la actividad laboral genera constantes conflictos y se encuentra en permanente revisión. Y, por poner otro ejemplo, el debate sobre la automatización del trabajo y su impacto en el empleo es una cuestión con un largo recorrido histórico, como atestigua el movimiento decimonónico ludita y la destrucción de maquinaria.

Tu nuevo libro va más allá de los derechos de los trabajadores, porque se centra en cómo hacen los algoritmos para descifrar los patrones inconscientes de conducta de las personas. Para empezar por el principio, ¿qué es el inconsciente?

Es difícil de responder… La literatura especializada que yo he barajado afirma que nuestro cerebro actúa en un 95% en modo inconsciente. Aunque sea una afirmación que nos incomode, nuestra mente consciente tiene un papel muy secundario. De hecho, se ha sugerido que, en ocasiones, opera como un mero portavoz de las decisiones que ya ha tomado la mente inconsciente. Esto afecta al hecho de caminar por el bosque, hablar o ver con los ojos. Lo hacemos sin esfuerzo, totalmente ajenos al bullicio de miles de estímulos y órdenes por segundo que tiene que procesar el cerebro para hacerlo posible. Pero también sucede cuando adquieres mucha práctica. Fíjate en cuando conduces un coche. Al principio, estás totalmente concentrado en cambiar las marchas, en el volante, el retrovisor, el tráfico… Pero, a medida que pasa el tiempo y adquieres experiencia, este comportamiento queda impreso en circuitos neuronales a los que ya no tienes acceso, y actúas de forma automática al margen de la mente consciente, salvo cuando hay un imprevisto. Cuando conduces, de manera inconsciente, tu cerebro procesa y gestiona el movimiento de las manos, los pies, el estado del tráfico, aceleras, frenas…

… Pero pensando en otras cosas.

¡Y llegas a casa y no sabes muy bien cómo lo has hecho! No tenemos acceso a la forma cómo hacemos muchas de estas cosas. Está depositada en una capa de nuestro cerebro insondable. Por todo esto, puede decirse que la mente consciente es solo el actor secundario que se cree el protagonista de la película. Por consiguiente, el yo inconsciente tiene un papel trascendental en nuestra vida diaria y debe ser preservado.

Las aplicaciones que nos bajamos en el móvil nos escuchan y escrutan nuestro comportamiento aparentemente consciente. Descifran cómo navegamos por internet y por las redes sociales, cómo compramos y con quién nos relacionamos. Incluso podemos temer que los dispositivos inteligentes que tenemos en casa, tipo Alexa o Roomba, sean pequeños espías. Pero que lleguen a nuestro inconsciente…

Son muchos los dispositivos que parametrizan nuestra vida personal y familiar: la aspiradora automática, la nevera, los aparatos de aire acondicionado, muñecos, vigila-bebés, teteras, papeleras, ropa, maletas de viaje, el coche y, obviamente, el teléfono. ¡Y esto es solo el principio! Si se activa su conexión a la red, la recopilación de todos estos datos permite una psicometría exhaustiva de las personas. Esta cartografía humana está empezando a desvelar patrones en el comportamiento, incluso los que están por debajo del nivel consciente. Por ejemplo, mi programa de música en línea puede tener información sobre mi curva emocional a lo largo del tiempo en función de la música que escucho. Yo no recuerdo cómo estaba emocionalmente hace 48 meses, ni tampoco hace 6 meses. Este programa informático podría desvelar un patrón y predecir mis momentos de mayor o menor euforia. Tenemos relojes que, entre otros datos, captan nuestras pulsaciones y lo hacen mientras utilizamos el móvil. De ahí que puedan establecerse correlaciones fuertes entre este uso del dispositivo y mis reacciones fisiológicas y, de nuevo, anticipar comportamientos. Paradójicamente, lejos de recelar de esta intromisión en la privacidad tan profunda, regalamos esos relojes a menores, cada vez a más temprana edad. Y lo mismo sucede con los teléfonos móviles. Por otra parte, muchos dispositivos se activan con la voz. El creciente registro de estos datos permite acceder a una riqueza de aspectos brutal: el vocabulario, la pronunciación, la entonación, la cadencia, la inflexión y el dialecto. Y esto abre la puerta a dimensiones de nuestra personalidad, estado de ánimo o nivel sociocultural.

¿Así es como la inteligencia artificial puede leer nuestras intenciones y condicionar lo que haremos?

La información que obtienen estos algoritmos extractivos permite perfilar la conducta y es posible acceder a nuestras intenciones y emociones e, incluso, aspirar a condicionar el comportamiento. De hecho, muchas aplicaciones fabrican impulsos. Utilizo la palabra fabricar porque están diseñadas específicamente para inhibir el autocontrol. De ahí que, muchas de ellas, consigan captar nuestra atención e, incluso, lleguen a ser adictivas.

En tu libro hablas de “empujoncitos digitales”.

Por ejemplo, las notificaciones de las aplicaciones. El uso del color rojo y su ubicación en la esquina superior derecha no es casual. Este diseño tiene un deliberado propósito conductual, basado en estudios psicológicos y neurocientíficos, para generar un impulso irresistible para que pinches. Con estas notificaciones y las gratificaciones asociadas se consigue enviar un mensaje a tu mente inconsciente para que te comportes compulsivamente. Al captar tu atención más tiempo, desvelas más dimensiones de tu persona y eso permite acceder a estratos de tu personalidad y de tu conducta más profundos. Esta información es muy valiosa porque puede ser usada para venderte cosas o para tratar de condicionar tu estado de ánimo o, incluso, tu voto. De hecho, las empresas pioneras en este ámbito han obtenido beneficios estratosféricos gestionando esta información. Y ahora son muchas las que se han sumado al carro y también persiguen este objetivo.

De hecho, es algo que siempre se ha intentado hacer, ¿no?

Es cierto. Pero nunca con la sofisticación actual ni en este orden de magnitud. De hecho, fíjate que hay una ley que prohíbe la publicidad subliminal. En cambio, no hay ninguna que haga lo mismo con el uso de algoritmos extractivos dirigidos a condicionar subliminalmente la conducta, por ejemplo, en los videojuegos y el pago de dinero para acceder a mejoras o recompensas. Si la mente inconsciente rige el 95% de nuestra actividad cerebral, la amenaza de este tipo de intromisión subliminal es inaudita. Lo curioso es que el ordenamiento jurídico tiende a ocuparse solo del 5% restante. Quizás debemos empezar a pensar en articular instrumentos para proteger el resto.

En el caso de la inteligencia artificial, dices que el ámbito laboral podría ser la “zona cero”.

En efecto. Aunque es difícil hacer proyecciones fiables sobre lo que nos deparará el futuro, todo apunta a que será un ámbito en el que este tipo de tecnología persuasiva subliminal se expanda con mayor rapidez, convirtiéndose en la antesala de lo que podría ser la sociedad del futuro. La parametrización exhaustiva del comportamiento es un primer estadio y el condicionamiento por debajo del nivel consciente podría ser el siguiente.

También para fines positivos, esperemos.

Ya hay deportistas que llevan un chaleco que parametriza su rendimiento físico, y algunos no juegan porque los datos recopilados advierten que si lo hacen pueden lesionarse. Hay máquinas que, a través de dispositivos no intrusivos, controlan la actividad cerebral de las personas para evitar que tengan microsueños. Esta tecnología está pensada para conductores de tren, de autobuses o de grúas, por ejemplo. Recopilar datos no es malo. Cuando hago un análisis de sangre, la existencia de un número de indicadores mayor puede ser positiva para detectar posibles anomalías o enfermedades. El problema de los datos no es propiamente su recopilación, sino el uso que se hace con ellos. Entonces, en un contexto de capitalismo que busca sacar beneficios de toda esa información, la psicometría humana generalizada puede describir un escenario amenazante para nuestra identidad y la libertad. Algunas corporaciones tienen más información sobre mi vida personal, de la que nunca estaría dispuesto a compartir con el Estado, o bien con mis familiares y amigos más próximos… 

Ante esta situación, tu libro pone de relieve la necesidad de crear una especie de “escudo” frente a las intromisiones por debajo de la consciencia. De proteger la “esencia de la esencia” humana. Parece que las administraciones se están poniendo las pilas para regular la inteligencia artificial. En un artículo en tu blog, consideras preocupante el cambio que, hace apenas un mes, se ha introducido en el borrador de la pionera propuesta de reglamento que está preparando la Comisión Europea.

En efecto, en Europa hay un reglamento muy importante en trámite. Tiene un artículo, el cinco, que, entre otras cosas, prohíbe el uso y comercialización de inteligencia artificial que, empleando técnicas subliminales por debajo del nivel consciente, condicione la conducta. La existencia de esta regla es una evidencia de la existencia real del riesgo que trato de exponer en el libro. Pero la propuesta inicial ha sido recientemente modificada y esta prohibición ha quedado sustancialmente diluida. Yo interpreto que este giro nos dice dos cosas. La primera, que hay empresas cuyo modelo de negocio depende o dependerá de este condicionamiento subliminal. La segunda, que se está haciendo presión para que la versión inicial sea modificada. Si finalmente se aprueba la redacción de este nuevo borrador, significará que se permitirá el condicionamiento subliminal siempre que no tenga una “afectación considerable” y no cause un daño “significativo”. No es un cambio positivo porque, como ciudadanos, no deberíamos tolerar ningún tipo de condicionamiento subliminal. Ninguno. Ni incluso los que, eventualmente, pudieran aportarnos algún beneficio. Especialmente porque se estaría abriendo la puerta a que, como en el flautista de Hamelin, bailemos sin saber por qué. 

¿Y cómo medir si causan daño, y cómo saber qué es consciente o inconsciente?

Efectivamente, este es uno de los principales problemas. Porque no podemos saber qué parte del comportamiento consciente se ha visto afectado por la mente inconsciente. Por este motivo, ningún tipo de condicionamiento debería ser tolerado. 

¿Y eso cómo se traduce, a la práctica?

En el libro sondeo algunas posibles propuestas. No es fácil porque, probablemente, estamos hablando de una amenaza que todavía no se ha corporizado o, si lo ha hecho, no en toda su potencialidad. Es una especie de enemigo invisible. En mi opinión, hay que crear un escudo de protección. Por este motivo hablo de los derechos del yo inconsciente de las personas. Entre otras posibles medidas, de algún modo hay que cortar el flujo de información sobre nuestra vida personal e impedir que husmeen en lo más íntimo de nuestro ser. Sin esta psicometría exhaustiva, la desencriptación de nuestros patrones de conducta por debajo del nivel consciente sería mucho menos accesible y el condicionamiento subliminal más remoto. Esto no es incompatible con la recopilación de datos para fines legítimos. Por ejemplo, la UE prevé que los coches deberán tener una especie de “caja negra”, similar a la que ya tienen los aviones. Esta recopilación de datos se rige por dos principios muy interesantes. Los datos no podrán salir de ahí ni pueden identificar a la persona. Y, además, se exige que esos datos tendrán que reescribirse constantemente, de manera que no será posible obtener un registro histórico. Quizás, deberíamos empezar a exigir que todos los dispositivos que nos parametrizan constantemente, como el teléfono, la aspiradora, la nevera o lavadora, dejen de informar sobre nosotros e incorporen estos principios. Aunque podemos ser conscientes de los riesgos que afectan a nuestra privacidad y sus graves derivaciones, necesitamos ayuda por parte del marco legislativo para protegernos eficazmente frente a quienes quieren sacar provecho de nosotros. Nos jugamos mucho.

Los países del G7 también trabajan en el llamado ‘proceso de inteligencia artificial de Hiroshima’, para tener a final de año una regulación para la inteligencia artificial generativa y las tecnologías inmersivas. Pero ahí no están ni Rusia ni los gigantes asiáticos, la China y la India. ¿Te genera confianza? 

Es difícil de evaluar. La efectividad de la medida está condicionada por el número de actores que participen. En todo caso, de lo que no cabe duda es de que hay que establecer un marco normativo que sea capaz de promover estos avances tecnológicos preservando los derechos de las personas. Creo que la situación actual presenta, salvando las distancias, algunas similitudes con el estado del tráfico en las calles de Nueva York a mediados del siglo XIX. Como expongo en el libro, entonces circular por la ciudad era un caos. No había reglas. Había accidentes y numerosos atascos de carruajes y jinetes … Hasta que a alguien se le ocurrió hacer un código de circulación para que el tráfico fuera fluido y respetuoso con todos los afectados. En mi opinión, necesitamos una especie de código de circulación para lidiar con este nuevo contexto tecnológico. 

También podemos hacer cosas a nivel individual. 

En efecto, también es importante concienciar a la sociedad de los riesgos implícitos si no valoramos nuestra privacidad. Es el primer paso. Hasta el momento, hemos mostrado una pasividad inaudita. Si hace unas décadas nos hubieran dicho que compartiríamos esta información con extraños, no nos lo hubiéramos pensado. 

¿Cómo te gustaría que estuviéramos en 2030?

Me gustaría que la sociedad fuera consciente del valor de la privacidad y, obviamente, de los riesgos asociados al uso de la inteligencia artificial. En todo caso, debemos tener muy presente que esta poderosa tecnología puede ser muy necesaria para colmar algunas de las carencias que tenemos como homo sapiens. Puede ayudarnos a superar muchas de nuestras limitaciones, pero tenemos que utilizarla con inteligencia…

… Inteligencia humana.

Tenemos que encontrar un equilibrio. Complementarnos. La inteligencia artificial puede servir para hacer increíbles avances, pero usarla para dirigir la conducta de las personas… Eso sobrepasa, con mucho, lo admisible. Porque afecta a nuestra esencia como individuos. Y establecer una regulación que ampare el yo inconsciente es el mejor legado que podemos dejar a nuestros hijos. 

Empecemos por Europa…

Sí.