Aquest còctel tecnològic pot combatre la desinformació a internet

14/05/2024
¿Qué es el watermarking? Foto: Freepik.

L’article “Este cóctel tecnológico puede combatir la desinformación en internet”, de David Megías Jiménez, es va publicar originalment a The Conversation el 5 de març de 2024.

Les notícies falses que propaguen desinformació per influir en grups i societats senceres han existit des d’abans d’internet. En la societat hiperdigitalitzada actual, les xarxes socials i altres mitjans s’han convertit en els principals canals per a la difusió de desinformació. La informació falsa no només inclou text, sinó també la manipulació d’imatges digitals, vídeos i àudio.

La difusió de notícies falses en xarxes socials ha tingut un impacte palpable en la realitat, com es va observar en les eleccions presidencials dels Estats Units del 2016.

La detecció de desinformació, que inclou les notícies falses, és un camp de recerca que integra disciplines com les ciències de la comunicació, la sociologia, l’anàlisi de dades i la informàtica.

L’aprenentatge automàtic, o machine learning, és una eina essencial per classificar la informació falsa. Consisteix a entrenar models de xarxes neuronals amb amplis conjunts de dades per identificar patrons i característiques distintives de les notícies falses i les legítimes.

La cursa d’armaments de la intel·ligència artificial

L’aplicació exclusiva de l’aprenentatge automàtic en aquest context té alguns inconvenients. En primer lloc, l’evolució constant de les tàctiques utilitzades pels creadors de notícies falses els impulsa a adaptar-se ràpidament a les noves tecnologies i enfocaments de detecció. En aquest cicle constant de millora, tots dos costats es veuen embolicats en un bucle infinit.

Imaginem un escenari en què els creadors de notícies falses fan servir algorismes d’intel·ligència artificial generativa per produir contingut cada vegada més sofisticat i convincent. Enfront d’aquesta amenaça, els models d’aprenentatge automàtic emprats per detectar desinformació s’ajusten i es milloren per reconèixer els patrons més recents de creació de deepfakes. Aquesta resposta, però, desencadena una contraadaptació per part dels generadors de notícies falses, que refinen les seves estratègies per evadir les noves mesures de detecció.

Aquesta dinàmica porta a una competició infinita de millora constant, on tant els generadors com els detectors de notícies falses s’embranquen en una cursa d’armaments.

El perill dels falsos positius

A més, els mètodes de detecció basats exclusivament en machine learning tenen un altre inconvenient. Tot i que la precisió i l’eficàcia dels models existents són molt elevades, fins i tot una petita quantitat de falsos positius pot tenir repercussions importants.

En l’entorn digital actual, amb milions de continguts generats diàriament, la mínima fracció de falsos positius pot portar a la identificació errònia de grans quantitats d’informació legítima com a desinformació.

La inevitabilitat dels falsos positius pot soscavar la confiança en les eines de detecció de desinformació per part dels usuaris. Per tant, reduir la incidència de falsos positius és una prioritat urgent en el desenvolupament de solucions per detectar desinformació.

Hi ha altres tecnologies que hi puguin ajudar?

Les marques d’aigua digitals (watermarking) emergeixen com una eina poderosa en aquest context. Es tracta d’un conjunt de tècniques que permeten incrustar informació oculta de manera imperceptible en continguts multimèdia i, fins i tot, en text. Això obre un ventall de possibilitats crucials en la lluita contra la desinformació.

El watermarking es classifica en dues categories principals: robust i fràgil.

Les marques robustes, resistents a modificacions, permeten identificar l’origen o el propietari d’un contingut. Així s’ajuda a legitimar la informació procedent d’agències i mitjans de prestigi. El mecanisme d’extracció de les marques ocultes facilita la identificació de la font en continguts prèviament marcats.

Les marques fràgils i semifràgils són molt eficaces per detectar manipulacions fraudulentes. Incrustant-les abans de distribuir el contingut, els detectors poden identificar fàcilment fragments modificats sense gairebé falsos positius.

Les marques d’aigua digitals poden contribuir a combatre la desinformació en tres escenaris clau:

  1. La confirmació de l’origen de notícies legítimes. Integrant marques digitals robustes en continguts de notícies per validar-ne l’origen, les agències i els mitjans de comunicació poden beneficiar-se d’una traçabilitat irrefutable. Això descartaria sospites de notícies falses en continguts legítims i enfortiria la confiança en la veracitat de les fonts.
  2. L’autenticació de notícies legítimes. Si s’incrusten marques fràgils o semifràgils en continguts de notícies, els usuaris podrien verificar la legitimitat de la informació rebuda. Aquesta tecnologia no només protegiria contra la difusió d’informació falsa, sinó que també capacitaria la ciutadania per prendre decisions autònomes i informades sobre la credibilitat de les notícies que reben.
  3. La traçabilitat de notícies falses. Davant la proliferació de notícies falses, la traçabilitat implica la inserció de marques traçables en continguts que després s’han identificat com a falsos. Aquestes marques actuarien com a molles de pa digitals, ja que permetrien rastrejar la font de la desinformació fins a l’origen i desacreditar els creadors d’informació fraudulenta.

Un còctel tecnològic contra la desinformació

La integració de tècniques de watermarking en la detecció de desinformació ofereix una estratègia innovadora per abordar els desafiaments que planteja l’ús exclusiu de l’aprenentatge automàtic.

Una aproximació híbrida que combini les marques d’aigua digitals amb l’aprenentatge automàtic no només augmenta la precisió de la detecció, sinó que també hi introdueix consistència i aborda els problemes fonamentals associats a l’ús exclusiu de l’aprenentatge automàtic.

En trencar la dinàmica de la cursa d’armaments i reduir el percentatge de falsos positius, l’aplicació integrada de les marques d’aigua digitals i aprenentatge automàtic proporciona un enfocament equilibrat i efectiu per fer front als desafiaments complexos de la desinformació en l’era digital.

En un entorn digital saturat d’informació, combatre la desinformació constitueix un desafiament crucial que demana solucions innovadores. Explorant el potencial del watermarking en combinació amb el machine learning, no només abordem les limitacions de la cursa d’armaments i els falsos positius, sinó que també tracem un camí cap a una defensa més consistent contra la manipulació de la informació.

La capacitat de validar l’autenticitat de les notícies, rastrejar-ne l’origen i mitigar els riscos d’identificació errònia porta a pensar que el futur de la detecció de desinformació rau en la diversificació d’estratègies tecnològiques que ofereixin suport a la ciutadania per prendre decisions informades.

Davant el desafiament que planteja la desinformació, és essencial unir esforços per enfortir les nostres defenses. Aprofitant diferents enfocaments, podem forjar un futur en el qual la confiança en la informació prevalgui i cada persona sigui una defensora activa de la informació rigorosa a la xarxa.


Aquest article és fruit de la Càtedra Internacional ARTEMISA de Ciberseguretat. Una iniciativa finançada per INCIBE a través dels fons del Pla de recuperació, transformació i resiliència, finançats per la Unió Europea (Next Generation), el projecte del Govern d’Espanya que traça el full de ruta per a la modernització de l’economia espanyola, la recuperació del creixement econòmic i la creació d’ocupació, per a la reconstrucció econòmica sòlida, inclusiva i resilient després de la crisi de la COVID-19, i per respondre als reptes de la dècada vinent.

(Visited 51 times, 1 visits today)
Autor / Autora
Comentaris
Deixa un comentari