Situació jurídica de l’ús de les IA generatives

Com a docents i professionals de l’educació tenim molts dubtes legals a l’hora d’usar ChatGPT i altres IA generatives, que, d’altra banda, ja fan servir àmpliament els estudiants i molts professionals.

L’ús de ChatGPT i altres IA generatives no està recomanat per part de les autoritats europees, espanyoles i catalanes de protecció de dades fins que no s’aclareixi el context jurídic d’aquestes. Els problemes principals fan referència a la protecció de dades, a la propietat intel·lectual i a la confidencialitat.

Respecte a la protecció de dades

Les dades de les nostres converses (dades que poden ser sensibles) serveixen per alimentar al sistema. Encara que ara ChatGPT ofereix la possibilitat de marcar que no volem que les facin servir, no queda clar ni com ho fan ni si realment ho fan.

Fins que el Comitè Europeu de Protecció de Dades es pronunciï, l’Autoritat Catalana de Protecció de Dades ha recomanat que no se’n faci ús en l’àmbit públic (i universitari) quan es tractin dades personals.

Respecte a la propietat intel·lectual

A Europa es contempla la possibilitat de fer servir material digital existent per fer “mineria de dades”. Tanmateix, no està clar que el material usat per entrenar ChatGPT hagi estat accedit de forma lícita. A més, els propietaris haurien d’haver pogut oposar-se a que el seu contingut formés part d’aquest entrenament.

Hi ha encara moltes incògnites sobre si aquest contingut que ha entrenat la IA pot estar protegit o no per les lleis en matèria de propietat intel·lectual o si pot infringir aquests drets (en prendre com a referència dades i informació aliena sense autorització de l’autor i sense citar les fonts). El que obtenim de ChatGPT podria infringir drets d’autor.

Respecte a la confidencialitat

Donat que ChatGPT no dona garanties de seguretat de la informació desada i l’ús de les funcionalitats que permeten que l’eina no utilitzi aquestes dades tampoc garanteixen que aquesta informació no arribi a tercers, és desaconsellable incloure qualsevol tipus de documentació estratègica, sensible o que tingui caràcter restringit per a l’organització. 

Per tant, a la pràctica

Com que la recomanació de no usar-ho és difícil de seguir perquè ja s’està utilitzant de forma generalitzada, cal donar algunes pautes. Tenint en compte el que hem dit anteriorment, en el cas de fer servir ChatGPT caldria prendre aquestes precaucions:

• Abans d’introduir qualsevol mena de contingut (enunciats de preguntes o respostes d’estudiants) cal analitzar aquest contingut per corroborar que no infringeix cap dret en matèria de propietat intel·lectual, protecció de dades o de confidencialitat.
• No incloure al contingut que es comparteixi cap dada de caràcter personal o informació que pugui fer identificable a una persona, tampoc cap contingut sobre el qual no s’ostenten drets suficients per al seu ús, cap informació reservada, confidencial o de caràcter estratègic per a la Universitat.
• S’haurà d’informar correctament els interessats de l’ús que es farà del contingut i obtenir-se si cal el consentiment exprés, autorització i/o llicències necessàries.
• Tot i que no podem conèixer amb certesa com es farà servir el contingut que publiquem a ChatGPT, el més recomanable és fer servir l’opció d’oposar-se que aquest contingut sigui utilitzat per a “millorar el sistema” (opt-out) i també fer servir l’opció de no guardar les converses (vol dir que la nostra consulta no s’usa per entrenar la IA).

• Podria ser convenient plantejar-se la necessitat real de compartir les respostes dels estudiants i valorar-se si en determinats casos, al seu lloc, es podria fer la possibilitat de fer ús de respostes fictícies.

I pel que fa a introduir ChatGPT (o altres IA generatives) en les activitats, ja sigui Involucrant els estudiants en la crítica i millora de les respostes de ChatGPT, utilitzant ChatGPT per a la gamificació o altres possibles metodologies o estratègies, seria recomanable, prèviament al seu ús, analitzar-ne els possibles riscos.