Joan Soler-Adillon: «Los sistemas de IA son disparadores de ideas y abren mundos creativos muy importantes»

(Més avall trobareu la versió en català d’aquest contingut: Joan Soler-Adillon: “Els sistemes d’IA són disparadors d’idees i obren mons creatius molt importants”.)

Joan Soler-Adillon es artista, profesor de los estudios de Informática, Multimedia y Telecomunicación de la Universitat Oberta de Catalunya (UOC) y director de la revista Mosaic. Líder en el uso y la investigación en torno a la IA generativa, hablamos con él sobre el número especial de Mosaic dedicado a estas herramientas; conversamos sobre el I Ciclo de Artes Digitales de Vic, del que es comisario, y nos explica cómo valora el impacto que la IA generativa está teniendo y tendrá en nuestras vidas en un futuro próximo.

¿Por qué decidisteis hacer este número especial de la revista Mosaic sobre IA generativa, y cuáles son las cuestiones más interesantes que se proponen?

El número se enmarca dentro de una nueva línea editorial de Mosaic, en la que queremos trabajar en monográficos que giren en torno a temáticas concretas y, en la medida de lo posible, contar con editores invitados. Este es el primer número donde hemos conseguido ambas cosas, y el editor que hemos invitado ha sido el filósofo e investigador David Casacuberta. Queríamos hablar de la inteligencia artificial generativa, obviamente, por la explosión que ha tenido últimamente. David lleva muchos años trabajando en el ámbito de la inteligencia artificial y la ética de la IA y, por tanto, podía trabajar este tema desde un punto de vista profundo y crítico, y desde la vertiente más filosófica y de pensamiento. Hemos trabajado este número especial teniendo en cuenta que Mosaic es una revista de difusión, no una revista científica, y que lo que queremos es que personas del ámbito universitario —sean profesores o profesionales, del ámbito multimedia, sobre todo—, puedan decir la suya.

El editorial de la revista cita una canción de Shirley Bassey para argumentar que quizás la IA generativa no sea tan innovadora, y que buena parte del hype que sentimos a su alrededor solo es otro fragmento de historia que se repite. ¿Cómo se explica esto en una sociedad fascinada?

Hay muchos argumentos para explicar esto que destaca David en la editorial. Como, por ejemplo, que seguramente parte de la IA generativa no es más que una nueva tecnología dándole una vuelta más a cosas que, por ejemplo, en su día ya hizo el procesador de textos. El problema es que la forma en la que nos está llegando la IA y la manera en que se está empezando a implementar es mucho más rápida de lo que lo fue el procesador de textos o Internet. Esto hace que la IA generativa tenga más números de ser una revolución tecnológica de gran calibre, pero nos está llegando de forma muy, muy rápida, y tenemos muy poco tiempo para asimilar las cosas. Pero sí vale la pena decir que estas tecnologías, que tenían que venir a cambiar el mundo y capgirarlo todo, muchas veces se han introducido de forma normal en nuestras vidas y no le han dado tanto la vuelta a todo.

Uno de los artículos del número habla sobre el uso sistemático de los Large Language Models (LLM) para ahorrarnos la tarea de leer referencias y dejar que la IA nos haga un resumen puede tener consecuencias no deseadas, y señala que lo importante que es ser crítico con el uso ingenuo de la IA generativa en la investigación científica y en las humanidades. Es curioso porque hoy en día, mucha gente coge y le pregunta todo al ChatGPT. ¿Por qué crees que no podemos hacer esto?

El artículo, de fondo, tiene una crítica más profunda hacia una forma de generar conocimiento en entornos universitarios y científicos que consiste en publicar mucho —dejando un poco de lado lo que se publica— para la que se prestan muy bien este tipo de herramientas. Pero entrando en el caso concreto de ChatGPT —que es evidentemente el más conocido, el más utilizado y el que está cambiando ya muchos hábitos a la hora de escribir de muchísima gente— vuelve a pasar un poco lo mismo que decía antes: es una herramienta que no podemos obviar, que es muy sintética y permite hacer muchas cosas, pero es importante entender las limitaciones que tiene, al menos ahora, en su formato actual. ChatGPT es muy bueno a la hora de realizar disertación y un tipo de ensayo muy al estilo inglés. Pero no es nada fiable a la hora de dar según qué tipo de conocimientos, o de fuentes, porque si no sabe algo, se lo inventa y hace un texto plausible. Últimamente, dentro de mi investigación, he estado utilizando mucho el ChatGPT tanto para hacer texto como para hacer código de programación, y mi conclusión es que tiene un valor instrumental innegable, pero que no te soluciona nada en un nivel demasiado profundo todavía. Si tú no sabes escribir y le pides al ChatGPT que te haga un texto, no podrás valorar bien lo que te ha hecho. Y si sabes escribir, todavía es mucho más ágil hacerte tú mismo los textos que pedirlos al ChatGPT. Pero, en cambio, para que te resuma, te quite una idea o te desatasque un párrafo; o en el caso del código, para que te resuelva un error o te dé una nueva función, sí que puede ser muy útil.

Dices que si el ChatGPT no sabe algo, a menudo se la inventa. Creo que mucha gente que utiliza esta herramienta, no cuenta con eso… Justamente en la revista, otro de los artículos advierte del hecho de dar veracidad a estas herramientas, porque son muy opacas a la hora de dar información precisa sobre las fuentes y bases de datos que consultan para dar respuestas.

Estoy muy de acuerdo con esta peligrosidad, porque son sistemas muy opacos que no sabemos cómo se han entrenado. Karina, autora del artículo, explica muy bien lo que sabemos de estas tecnologías: cómo funcionan, cómo crean respuestas aleatorias y después otro contra sistema les va diciendo qué puede ser correcto y qué no hasta que encuentran una respuesta plausible. El gran peligro ahora mismo es utilizarlos sin tener en cuenta los sesgos que tienen, y sin tener en cuenta que pese a su aparente responsividad—es decir, parece que cuando chateamos lo estemos haciendo con una persona—, si no sabe una respuesta, se la inventará. Al final, herramientas como ChatGPT son generadores de textos mediante probabilidades. Entonces, si la herramienta no sabe cuáles son los autores de una teoría que le pides, se inventará los nombres de unos autores parecidos a los autores posibles y te hará referencias que pueden ser veraces o no. Y además, no sabemos de dónde toma el conocimiento ni qué datos consulta, y, por tanto, hay que poner en cuestión que los podamos utilizar para según qué cosas.

También estás trabajando como director del I Ciclo de Artes Digitales de Vic, que propone explorar el momento actual de la creación digital en Cataluña. También has comisariado dos exposiciones. ¿Qué encontrará la gente que se acerque al ciclo?

El ciclo quiere acercar la creación digital a la ciudadanía a través de propuestas de proximidad donde se vea un poco la trastienda de cómo se crea el arte digital. Yo he insistido mucho en poner el énfasis en el arte y no en el digital. Esto se ha materializado en dos exposiciones. La primera, llamada “IA: Això no és art”, se inauguró el 6 de octubre y se generó in situ, en forma de taller donde se ponían herramientas de IA generativa a disposición del público, que trabajaba con imagen, vídeo, código, texto y sonido para generar algo nuevo.

En la segunda exposición, “Art Digital: Transitant les Escletxes”, he hecho de comisario de una forma más tradicional, juntando a cuatro artistas que son muy punteros en la creación de arte digital en Cataluña —Alba G. Corral, Joana Moll, Roc Parés y Mónica Rikić— donde cada uno propone una pieza. Hemos querido poner el énfasis en el punto de contacto entre el mundo físico y el digital, y en cómo el arte digital nos acerca formas de entender este espacio que se creó de una manera muy dual en una época que ya hemos superado, y que hace ya años está muy fuertemente interrelacionados uno con otro.

¿En qué disciplina artística crees que la IA ha tenido un mayor impacto?

En el cine, por ejemplo, hay mucha gente queriendo hacer cosas con IA, pero los propios profesionales nos cuentan que todavía cuesta mucho. Son procesos muy laboriosos, muy lentos y en los que necesitas muchísima capacidad de computación, por lo que es muy difícil acceder con un sistema más o menos casero. Donde ya está teniendo un fuerte impacto es en el mundo del diseño. Estos días hablaba con un estudio de diseño, y me explicaban que ya tienen una persona en el equipo especializada en prompts: en saber cómo hablar con la IA para obtener los resultados deseados. En el mundo de la fotografía y la ilustración también, y quizás sus trabajadores son los más preocupados porque ven cómo el cartel de una exposición, por ejemplo, se puede generar piediendo una frase a Midjourney pidiéndole, en vez de encargarle a un diseñador o diseñadora.

Más allá de las artes, ¿cómo piensas que la IA generativa afectará a nuestra vida cotidiana y a la sociedad en su conjunto en un futuro próximo?

Como toda tecnología, la IA no deja de ser una herramienta que se puede utilizar de varias formas. Tiene muchísimos beneficios desde un punto de vista creativo: algunos de estos sistemas son disparadores de ideas y te abren mundos creativos muy importantes. Por otro lado, también existen algunos usos que pueden desvirtuarla. Por ejemplo, si en Internet empiezan a subirse textos mal hechos con el ChatGPT, se pueden empezar a poner en duda las fuentes bibliográficas y de documentación a las que tenemos a nuestro alcance. Esto añade una capa más de complejidad, porque los usos fraudulentos pueden generar más fake news y mucho ruido en el mal sentido de la palabra. No me atrevo a predecir grandes efectos inmediatos, pero sí son herramientas que relativamente están a nuestro alcance, y quizás pueden servir para que alguien que tiene buenas ideas, pero no tiene recursos para contratar a alguien que haga ilustraciones pueda empezar a trabajar en una línea de cómic, por ejemplo. Hay muchas cosas que pueden resultar interesantes en este sentido.

Joan Soler-Adillon: “Els sistemes d’IA són disparadors d’idees i obren mons creatius molt importants”

Joan Soler-Adillon és artista, professor dels estudis d’Informàtica, Multimèdia i Telecomunicació de la Universitat Oberta de Catalunya (UOC) i director de la revista Mosaic. Capdavanter en l’ús i la investigació al voltant de la IA generativa, parlem amb ell sobre el número especial de Mosaic dedicat aquestes eines; conversem sobre el I Cicle d’Arts Digitals de Vic, del qual n’és comissari, i ens explica com valora l’impacte que la IA generativa està tenint i tindrà a les nostres vides en un futur pròxim.

Per què vau decidir fer aquest número especial de la revista Mosaic sobre IA generativa, i quines són les qüestions més interessants que s’hi proposen?

El número s’emmarca dins d’una nova línia editorial de Mosaic, en la qual volem treballar en monogràfics que girin al voltant de temàtiques concretes i, en la mesura del possible, comptar amb editors convidats. Aquest és el primer número on hem aconseguit ambdues coses, i l’editor que hem convidat ha estat el filòsof i investigador David Casacuberta. Volíem parlar de la intel·ligència artificial generativa, òbviament, per l’explosió que ha tingut últimament. En David fa molts anys que treballa en l’àmbit de la intel·ligència artificial i l’ètica de la IA i, per tant, podia treballar aquest tema des d’un punt de vista profund i crític, i des de la vessant més filosòfica i de pensament. Hem treballat aquest número especial tenint en compte que Mosaic és una revista de difusió, no una revista científica, i que el que volem és que persones de l’àmbit universitari —siguin professors o professionals, de l’àmbit multimèdia sobretot—, puguin dir la seva.

L’editorial de la revista cita una cançó de Shirley Bassey per argumentar que potser la IA generativa no és tan innovadora, i que bona part del hype que sentim al seu voltant només és un altre fragment d’història que es repeteix. Com s’explica això a una societat fascinada?

Hi ha molts arguments per explicar això que destaca el David a l’editorial. Com per exemple, que segurament part de la IA generativa no és més que una nova tecnologia donant-li una volta més a coses que, per exemple, en el seu moment ja va fer el processador de textos. El problema és que la manera com ens està arribant la IA i com s’està començant a implementar és molt més ràpida del que ho va ser el processador de textos o Internet. Això fa que la IA generativa tingui més números de ser una revolució tecnològica de gran calibre, però ens està arribant d’una manera molt, molt ràpida, i tenim molt poc temps d’assimilar les coses. Però sí que val la pena dir que aquestes tecnologies que havien de venir a canviar el món i girar-ho tot, moltes vegades s’han introduit de forma normal a les nostres vides i no ho han capgirat tot tant.

Un dels articles del número parla sobre l’ús sistemàtic dels Large Language Models (LLM) per estalviar-nos la tasca de llegir referències i deixar que la IA ens en faci un resum pot tenir conseqüències no desitjades, i assenyala com és d’important ser crític amb l’ús ingenu de la IA generativa en la recerca científica i en les humanitats. És curiós perquè avui dia, molta gent agafa i li pregunta tot a ChatGPT. Per què penseu que no podem fer això?

L’article, de fons, té una crítica més profunda cap a una forma de generar coneixement en entorns universitaris i científics que consisteix a publicar molt —deixant una mica de banda què es publica— per a la qual es presten molt bé aquest tipus d’eines. Però entrant en el cas concret de ChatGPT —que és evidentment el més conegut, el més utilitzat i el que està ja canviant molts hàbits a l’hora d’escriure de moltíssima gent— torna a ser una mica el mateix que deia abans: és una eina que no podem obviar, que és molt sintètica i permet fer moltes coses, però és important entendre les limitacions que té, si més no ara, en el seu format actual. ChatGPT és molt bo a l’hora de fer dissertació i un tipus d’assaig molt a l’estil anglès. Però no és gens fiable a l’hora de donar segons quin tipus de coneixements, o de fonts, perquè si no sap alguna cosa, se la inventa i fa un text plausible. Últimament, dins de la meva recerca, he estat utilitzant molt el ChatGPT tant per fer text com per fer codi de programació, i la meva conclusió és que té un valor instrumental innegable, però que no et soluciona res en un nivell massa profund, encara. Si tu no saps escriure i li demanes al xat que et faci un text, no podràs valorar bé el que t’ha fet. I si saps escriure, encara és molt més àgil fer-te tu mateix els textos que demanar-li al ChatGPT. Però, en canvi, perquè et resumeixi, et tregui una idea o et desencalli un paràgraf; o en el cas del codi, perquè et resolgui un error o et doni una funció nova, sí que pot ser molt útil.

El ChatGPT té un valor instrumental innegable, però de moment no soluciona res.

Dius que si el xat no sap alguna cosa, sovint se la inventa. Em penso que molta gent que utilitza aquesta eina, no hi compta, amb això… Justament a la revista, un altre dels articles adverteix del fet de donar veracitat a aquestes eines, perquè són molt opaques a l’hora de donar informació precisa sobre les fonts i bases de dades que consulten per a donar les respostes.

Estic molt d’acord amb aquesta perillositat, perquè són sistemes molt opacs que no sabem com s’han entrenat. La Karina, autora de l’article, explica molt bé el que sabem d’aquestes tecnologies: com funcionen, com creen respostes aleatòries i després un altre contra sistema els va dient què pot ser correcte i què no fins que troben una resposta plausible. El gran perill ara mateix és utilitzar-los sense tenir en compte els biaixos que tenen, i sense tenir en compte que tot i l’aparent responsivitat —és a dir, sembla que quan xategem ho estiguem fent amb una persona—, si no sap una resposta, se la inventarà. Al final, eines com el ChatGPT són generadors de textos mitjançant probabilitats. Llavors, si no sap els autors d’una teoria que li demanes, s’inventarà els noms d’uns autors semblants als autors possibles i et farà referències que poden ser veraces o no. I a més a més, no sabem d’on agafa el coneixement ni quines dades consulta, i per tant s’ha de posar en qüestió que els puguem fer servir per segons quines coses.

També estàs treballant com a director del I Cicle d’Arts Digitals de Vic, que proposa explorar el moment actual de la creació digital a Catalunya. També hi has comissariat dues exposicions. Què hi trobarà la gent que s’apropi al cicle?

El cicle vol acostar la creació digital a la ciutadania a través de propostes de proximitat on es vegi una mica la rerebotiga de com es crea l’art digital. Jo he insistit molt en posat l’èmfasi en l’art i no en el digital. Això s’ha materialitzat en dues exposicions. La primera, anomenada “IA: Això no és art”, es va inaugurar el 6 d’octubre i es va generar in situ, en forma  de taller on es posaven eines d’IA generativa a disposició del públic, que treballava amb imatge, vídeo, codi, text i so per generar una cosa nova. 

A la segona exposició, “Art Digital: Transitant les Escletxes”, he fet de comissari d’una forma més tradicional, ajuntant quatre artistes que són molt punters en la creació d’art digital a Catalunya —Alba G. Corral, Joana Moll, Roc Parés i Mónica Rikić— on cadascú proposa una peça. Hem volgut posar èmfasi en el punt de contacte entre el món físic i el digital, i en com l’art digital ens apropa maneres d’entendre aquest espai que es va crear d’una manera molt dual en una època que ja hem superat, i que ja fa anys està molt fortament interrelacionats l’un amb l’altre.

En quina disciplina artística penses que la IA ha tingut un major impacte?

En el cinema, per exemple, hi ha molta gent volent fer coses amb IA, però els mateixos professionals ens expliquen que encara costa molt. Són processos molt laboriosos, molt lents i on necessites moltíssima capacitat de computació, per la qual cosa és molt difícil d’accedir amb un sistema més o menys casolà. On ja està tenint un impacte molt fort és en el món del disseny. Aquests dies parlava amb un estudi de disseny, i m’explicaven que ja tenen una persona a l’equip especialitzada en prompts: en saber com parlar amb la IA per obtenir els resultats desitjats. En el món de la fotografia i la il·lustració també, i potser els seus treballadors són els més preocupats perquè veuen com el cartell d’una exposició, per exemple, es pot generar demanant una frase a Midjourney, en comptes d’encarregar-li a un dissenyador.

El I Cicle d’Arts Digitals de Vic vol acostar la creació digital a la ciutadania a través de propostes de proximitat on es vegi una mica la rerebotiga de com es crea l’art digital.

Més enllà de les arts, com penses que la IA generativa afectarà la nostra vida quotidiana i la societat en el seu conjunt en un futur pròxim?

Com tota tecnologia, la IA no deixa de ser una eina que es pot utilitzar de diverses maneres. Té moltíssims beneficis des d’un punt de vista creatiu: alguns d’aquests sistemes són disparadors d’idees i t’obren mons creatius molt importants. D’altra banda, també hi ha alguns usos que la poden desvirtuar. Per exemple, si a Internet es comencen a pujar textos mal fets amb el ChatGPT, es poden començar a posar en dubte les fonts bibliogràfiques i de documentació a les quals tenim a l’abast. Això afegeix una capa més de complexitat, perquè els usos fraudulents poden generar més fake news i molt de soroll en el mal sentit de la paraula. No m’atreveixo a predir grans efectes immediats, però sí que són eines que relativament estan al nostre abast, i potser poden servir perquè algú que té bones idees, però no té recursos per contractar algú que faci il·lustracions pugui començar a treballar en una línia de còmic, per exemple. Hi ha moltes coses que poden ser interessants en aquest sentit.

(Visited 120 times, 1 visits today)