Algunas consecuencias morales y técnicas de la IA

17 noviembre, 2022
Foto: Freepik.

Vivimos en tiempos interesantes. En el mundo del arte llevamos meses hablando de inteligencias artificiales (IA) a las que podemos pedir que nos generen una imagen a partir de un texto. Probablemente, las más conocidas sean StableDiffusion y Dall·e (aunque últimamente aparece una nueva cada dos telediarios). Y no funcionan mal, cuando funcionan:

Imagen frontal de un hombre blanco, con barba y gafas de pasta negras mirando lo que podría ser la pantalla de un portátil
Imagen generada por Dall·e desde la descripción «a white guy with a beard and black rimmed glasses, wearing a blue polo shirt, staring at his laptop». El autor de esta pieza tiene el pelo considerablemente más canoso y no se parece especialmente a la imagen.

(Un pequeño paréntesis antes de seguir. Primero, para aclarar que funcionan muy bien cuando funcionan… pero que también fallan espectacularmente. Y segundo, aunque no es el objetivo explicar cómo funcionan estas IAs, recomendar un par de lecturas sobre el tema para quien quiera investigar un poco.)

La inteligencia artificial nos preocupa…

Dicen que el pintor Paul Delaroche, cuando vio una fotografía (un daguerrotipo, si queremos ser más exactos) por primera vez, allá por 1840, exclamó que la pintura había muerto. Desde 2022, afortunadamente, podemos asegurar que Delaroche se equivocaba. También podemos decir, eso sí, que los retratistas, aunque siguen existiendo, vieron su negocio invadido por la fotografía. Habría que consultar a alguna historiadora del arte para discutir si el impacto global de la fotografía fue positivo, negativo o ni una cosa ni otra para el arte en general, la pintura en particular y, casi seguramente lo más importante, quienes se dedicaban y dedican a la pintura (me da a mí la impresión que fue negativo a corto y medio plazo, y positivo a largo, si no para retratistas de pincel, sí para las artistas que se dedican al retrato en general, pero no es la mía una opinión cualificada).

Ya os podéis imaginar que quienes se dedican hoy a la ilustración miran, en general, con bastantes malos ojos a esas inteligencias artificiales que amenazan con invadir su sector profesional (y no le costará mucho al lector encontrar malos usos de estas tecnologías, que deberían preocupar y llevar a la acción a sus responsables). Como en el caso de la fotografía, mi intuición me dice que, de nuevo, los efectos negativos a la corta no van a ser para nada desdeñables, pero que a la larga estas IAs acabarán siendo una herramienta más de las que se usarán para crear ilustraciones profesionalmente. Pero no va a quedar otra que esperar un tiempo para ver si mi intuición acierta.

No es solo en el campo de la ilustración en el que entran las IAs: quienes se dedican a programar están viendo las reglas del juego cambiar a una velocidad considerable a manos de iniciativas como Github CoPilot. Como profe que con cierta frecuencia pide a sus estudiantes que redacten textos, no voy a negar que la llegada de cosas como GPT-3 me preocupa y me va a obligar a replantear cosas de mi actividad profesional.

Sirva todo esto, para hablar un poco del intenso debate que la llegada de la inteligencia artificial a un campo profesional provoca entre quienes se dedican a él. De manera casi inevitable, cuando nos afecta algo nos lanzamos al debate sin preocuparnos demasiado de buscar y pensar si estamos «abriendo un melón nuevo» o bien ya se ha discutido el tema antes. Y es que el debate sobre la IA y sus consecuencias es, obviamente (al menos a posteriori), tan viejo como el campo de la IA… y nos acompaña desde hace bastantes más años de los que se pudiese pensar.

…desde hace más de sesenta años…

Efectivamente, ya en 1960 el mismísimo Norbert Wiener no podía evitar reflexionar sobre el tema en un artículo cuyo título me he permitido parafrasear con absoluto descaro. Y tal vez sea conveniente leer lo que decía (se puede acceder y descargar el documento en PDF desde JSTOR, pero la versión de Fermat’s Library está trufada de notas interesantes).

(No puedo evitar señalar que hace un tiempo recordábamos cómo el debate sobre las decisiones algorítmicas tampoco es tan nuevo como imaginamos a veces…)

Wiener ya avisa que su tesis es que las máquinas pueden trascender, y trascienden, algunas de las limitaciones de sus diseñadores, y que al hacerlo pueden ser tanto efectivas como peligrosas. Me encantaría poder viajar en el tiempo para comprobar la respuesta que esto debió provocar en su momento. ¿Ludismo? ¿Preocupación? ¿Desinterés?

También nos avisa que para cuando entendamos los efectos de la máquina puede que ya sea demasiado tarde. Y mucho antes de que Deep Blue ganara a Kasparov al ajedrez, o AlphaGo a Lee Sedol, mira al juego de las damas como ejemplo de lo que iba a venir. O considera cómo la máquina puede «aprender» (las comillas son mías, una excusa para huir de definir lo que la palabra significa) de lo que sucede a su alrededor, escapando del control de quien la diseñó. Y de ahí salta a preocuparse de la aplicación de la IA a juegos de guerra, y cómo lo que la máquina «entiende» (de nuevo las comillas…) por ganar podría no tener en cuenta factores que la humanidad da por sentados (seguro que a Wiener le habría encantado la discusión alrededor de los «maximizadores de clips») y los riesgos que esto puede conllevar:

Hay que esperar resultados desastrosos […] cuando dos agencias esencialmente extrañas la una a la otra se aparejan en un intento de llegar a un objetivo común. Si la comunicación entre las dos agencias sobre la naturaleza del objetivo es incompleta, solo debe esperarse que los resultados de la cooperación no sean satisfactorios. Si usamos, para alcanzar nuestros objetivos, una agencia mecánica con cuya operación no podemos interferir eficientemente cuando la hemos puesto en marcha, más vale tener bastante seguridad de que el propósito asignado a la máquina es el que realmente deseamos, y no una mera imitación.

No suelo yo ponerme tan pesimista como Wiener en su artículo, pero si uno de los padres fundadores del campo de la IA se preocupaba así por los efectos que esta podría tener, tal vez sea conveniente tenerlo en cuenta.

…y es importante mirar atrás

Pero, sobre todo, a la hora de preocuparnos por los efectos que la tecnología puede tener sobre nuestras vidas, estaría bien volver la vista atrás y tener en cuenta a quienes pensaron antes en el tema, porque puede ser que estemos reinventando ruedas en vez de avanzar sobre ellas, cuando seguramente no sea el momento de dar, una y otra vez, los primeros pasos del debate.

(Visited 21 times, 1 visits today)
Autor / Autora
César Pablo Córcoles Briongos
Comentarios
Deja un comentario