Discursos d’odi a les xarxes socials: per què cal combatre’ls

El 28 de març passat, des del màster universitari de Social Media: Gestió i Estratègia de la UOC es va organitzar una sessió sobre els discursos d’odi a les xarxes socials a càrrec de Dolors Reig, psicòloga social, experta en xarxes socials i col·laboradora docent del màster, presentada per Silvia Martínez, directora de la titulació, llicenciada en Ciències de la Informació (Periodisme), directora del màster i professora agregada dels Estudis de Ciències de la Informació i de la Comunicació. Es tracta d’un tema de gran interès que posa el focus en una de les preocupacions actuals en l’ecosistema dels mitjans socials: la presència de continguts ofensius, discriminatoris o violents adreçats a diversos col·lectius.

El discurs d’odi —hate speech en anglès— es defineix com l’acció comunicativa destinada a promoure i alimentar un dogma, carregat de connotacions discriminatòries, que atempta contra la dignitat de les persones. Aquest discurs és propagat amb una intenció maligna (augmentar vots o ingressos, és a dir, poder polític i econòmic…) i amb l’estímul d’incrementar la popularitat a les xarxes: els discursos d’odi a les xarxes socials.

Reig va començar afirmant que la idea compartida per tanta gent amb la irrupció d’internet, de veure’l com un instrument de progrés i evolució, de difusió de noves idees i de potenciació de la creativitat que, en definitiva, havia de millorar el món, s’ha vist enfosquida darrerament per la seva qualitat d’altaveu per a interessos comercials i de propaganda capitalista molt inquietants. Les xarxes socials en particular, apunta, ens han convertit a tots en “micromitjans”, ja que ens faculten per traslladar el nostre missatge a multituds, la qual cosa, en el vessant negatiu, implica la possibilitat de difondre continguts d’odi, darrere dels quals s’amaguen interessos tèrbols de naturalesa política i econòmica; alhora, moltes vegades són formes d’alleujament destinades a causar mal i que procedeixen d’individus fàcilment manipulables i, a vegades, amb problemes psicològics.

Col·lectius més afectats

La diversitat de formes de manifestació complica la legislació i el control del hate speech (discurs d’odi), ja que, com argumenta Dolors Reig, “prohibir els discursos d’odi moltes vegades també implica tallar la llibertat d’expressió. I la llibertat d’expressió s’ha de defensar sempre, sempre que no atempti contra la dignitat de les persones”. Tal com exposa Reig, citant el sociòleg Manuel Castells (2009) —‍que ja va assenyalar un canvi important en la manera de comunicar-nos, que va definir com el pas de la comunicació de masses cap a l’autocomunicació de masses—.

Segons dades del Ministeri de l’Interior, els últims anys s’ha generat una evolució anual ascendent en el nombre de delictes d’odi, fet que inclou el discurs d’odi a les xarxes. “En el període comprès entre l’1 de novembre i el 31 de desembre de 2022, les plataformes han retirat el 37 % dels continguts notificats”, afegeix Dolors Reig. L’absència d’ètica política —l’increment dels discursos racistes a les xarxes per part de personatges públics, un fet vinculat a la proliferació de partits d’ultradreta en el panorama polític mundial— i la circulació d’informació distorsionada o directament falsa han contribuït a tirar llenya al foc.

Un dels aspectes destacats durant la sessió ha estat el que fa referència als col·lectius diana d’aquests discursos, que, tal com assenyala l’experta, són més greus quan ataquen directament les persones que ja estan discriminades per se o que necessiten alguna mena de protecció. “Aquest últim any, de fet, segons dades del Ministeri de l’Interior, la majoria de les denúncies per discurs d’odi a les xarxes tenien un origen ideològic (34,9 %), i els partits amb ideologies més extremes són els que promouen tot aquest tema”, apunta l’experta. Un segon tipus de discurs freqüent (30,2 %) és el vinculat al racisme i la xenofòbia, que atempta directament contra col·lectius tradicionalment discriminats. “Aquests sí que em preocupen més, perquè són col·lectius als quals ja hauríem de protegir amb més intensitat”, afirma Reig. Un tercer grup el formen els discursos contra l’orientació sexual o la identitat de gènere (16,3 %), pels quals l’experta també mostra preocupació. “Crec que el tema de la igualtat de gènere ja costa prou perquè aquests discursos el facin més complicat”, assenyala.

Un altre fenomen que sorgeix en els discursos d’odi a les xarxes socials, és el fet que els col·lectius discriminats tendeixin a assumir els discursos d’odi: “Els joves musulmans consideren els missatges islamòfobs dirigits contra ells com una part més de la seva vida. Per això hem de protegir els col·lectius que ja estan desprotegits per discriminacions prèvies”, insisteix Dolors Reig, que opina que un dels objectius del discurs d’odi és frenar l’evolució. En el cas del sexisme, “les conseqüències són humiliar i cosificar les dones, crear més violència cap a elles, subestimar les seves habilitats, augmentar la discriminació, destruir-los la reputació i fer-les sentir vulnerables, controlar-les, castigar-les, etc.”.

Com es poden combatre els discursos d’odi

Per què la xarxa és un brou de cultiu d’aquests missatges? En paraules de la psicòloga, es deu a l’anonimat i a la distància emocional: “Som molt atrevits quan no se’ns veu la cara i quan no empatitzem amb l’altre; és obvi que s’empatitza més amb algú cara a cara que a les xarxes”, afirma Reig. L’experta també destaca altres motius, com ara la presència a les xarxes de comunitats que fomenten i aplaudeixen aquests discursos; l’efecte espiral cap a la transgressió (“molts polítics han jugat a cridar l’atenció, a dir la barbaritat més grossa per aconseguir popularitat”), i l’evasió de la responsabilitat (“hi ha estudis que demostren que la gent s’apunta al carro de l’insult i de la crítica sempre que el responsable sigui un altre”).

Per què és greu tot això? Per a la psicòloga, “la naturalitat amb la qual els joves llegeixen a la xarxa missatges d’odi cap a col·lectius transsexuals pot comportar que facin un assetjament més dur a les escoles”, adverteix.

L’experta recomana no donar visibilitat a aquest tipus de missatges i denunciar-los a la xarxa social en qüestió perquè els retiri. “Hi ha un compromís per part d’algunes plataformes —unes més que altres— de retirar aquesta mena de missatges. La que retira més continguts és Instagram, seguida de TikTok, Twitter, YouTube i Facebook”, assenyala. Una altra manera de combatre’ls és posar m’agrada a les crítiques que es publiquen contra els discursos d’odi a les xarxes socials.

Amb tot, la idea principal que ha destacat Dolors Reig per combatre els discursos d’odi és l’educació, a fi que la gent s’adoni de quan l’estan intentant manipular i pugui lluitar contra aquests discursos. “Es tracta de convertir la gent en alumnes crítics, en subjectes crítics d’aquests discursos d’odi, i que puguin neutralitzar-los directament, discutir-los o comentar-los.” Què podem fer? “Primer, informar del que no s’ha de fer, sobretot els joves, que són els que difonen més aquesta mena d’informació”, afirma Reig. “Quan sorgeix un vídeo d’abusos que atempta contra la dignitat de les persones, per exemple, als meus alumnes els dic que ni el busquin ni el visualitzin, perquè al final els algorismes de les xarxes socials funcionen per popularitat”, explica. En segon lloc, “ho podem denunciar, de manera directa o a través d’alguna ONG que també estigui present a les xarxes socials i que defensi determinats drets. Finalment, també podem fer el que fem sempre, és a dir, no alimentar aquests discursos, perquè moltes vegades ens enfadem i els comentem. Comentar-los tampoc és bo: cada vegada que interactues amb aquesta mena de comptes, l’algorisme de la xarxa social considera que són rellevants i mostra els seus missatges a més persones. No cal ajudar-los a esdevenir virals”, afirma.

Segons dades de l’Agència de Drets Fonamentals de la Unió Europea (FRA), gairebé el 80 % dels casos no es denuncien perquè les víctimes no volen fer-ho, no s’hi atreveixen o no saben què es pot fer. El desconeixement de la llei, el temor de represàlies o la desconfiança en els cossos de seguretat afegeixen més dificultats al problema.

A més d’exigir més mecanismes de control i una legislació més ferma per protegir l’individu d’aquest tipus de missatges, així com més responsabilitat social i cívica a les plataformes de continguts, Dolors Reig sosté que tot canvi significatiu naixerà d’una educació profunda en aquests temes, perquè només prenent consciència d’un problema es pot començar a revertir-lo. En aquest sentit, interrogar-se pels interessos que hi ha darrere de cada discurs o pel pervers funcionament dels algorismes, a més d’intentar detectar com ens manipulen, serien uns primers passos molt valuosos. “Saber-ho és poder combatre-ho”.

En cas que es respongui a aquesta mena de missatges, la psicòloga recomana fer-ho d’una manera determinada: “Respondre contra l’argument i no contra la persona. Crec que això és una de les coses que fem menys i que demostra més si una persona és respectuosa i educada a les xarxes. No busquem si la persona que diu la barbaritat de torn és d’un partit polític determinat, per exemple: l’argument ha de ser sobre el tema i no contra la persona. A més, hem de respondre a consciència i premiar les respostes crítiques que intenten restablir la dignitat del col·lectiu contra el qual s’adreça el discurs d’odi”, assenyala Reig.

Per acabar, l’experta ha volgut destacar la necessitat d’exigir més recursos humans a les plataformes per controlar la difusió d’aquests missatges, així com l’elaboració d’una legislació que reguli aquests temes.