El mecanisme del discurs d'odi a les xarxes socials: és possible desactivar-lo?

Laila A. Wahedi i Daniel Robert Thomas, investigadors de Meta (empresa matriu de Facebook, WhatsApp i Instagram), han dut a terme un estudi recent, que s'ha publicat a la revista científica PNAS. L'estudi, Disrupting hate: The effect of deplatforming hate organizations on their online audience, aclareix una cosa que ja apuntaven recerques anteriors: expulsar de les xarxes els anomenats líders tòxics és eficaç per disminuir la difusió de discursos d'odi.

El personal investigador va identificar els perfils més actius dins de sis comunitats que movien 26.000 usuaris de xarxes. Aquests perfils (aquests líders tòxics) van ser expulsats de les comunitats. Wahedi i Thomas van trobar tres conclusions "destacables": una, que després de l'expulsió els usuaris veien, de mitjana, gairebé la meitat de contingut d'odi per dia que abans de l'expulsió; dos, que el subgrup menys afí a aquests líders tòxics va passar de seguida a rebre contingut més saludable i a consumir menys odi, mentre que els més implicats van reaccionar negativament i van augmentar aquest consum negatiu a curt termini, però va començar a decaure en només dos mesos. La tercera conclusió és que, de mitjana, els usuaris van reduir el seu consum total de contingut (entorn d'un 10 %).

Si, com conclou l'estudi, queda demostrada l'eficàcia de l'expulsió d'aquests perfils per limitar el discurs d'odi, és el camí per posar-hi fi? "Hem de defensar la llibertat d'expressió sempre que no atempti contra la dignitat de ningú", explicava Dolors Reig, professora col·laboradora dels Estudis de Ciències de la Informació i de la Comunicació de la Universitat Oberta de Catalunya (UOC). El canvi de paradigma comunicatiu que han suposat les xarxes socials "ens ha convertit a tots en micromitjans" que ens faculten per traslladar el nostre missatge a les multituds. "Les xarxes socials són una eina potentíssima per al canvi social, però també ho són per a la difusió de discursos d'odi", afegeix.

La pandèmia com a impulsora dels discursos d'odi

Quan han crescut aquest tipus de missatges a les xarxes socials? El secretari general de les Nacions Unides, António Guterres, va posar data a l'esclat del discurs d'odi: la pandèmia de la COVID-19. Així ho reflectia en una carta del 2020, on feia una crida a tots els agents socials i polítics per aturar aquesta "onada d'odi i xenofòbia". "El sentiment antiestranger ha augmentat a internet i als carrers", deia. En aquell moment, la gent va fer servir les xarxes socials "de manera intensiva per informar-se i relacionar-se, una conducta que es va veure potenciada pel mateix confinament: les plataformes socials es presentaven com a finestres de connexió amb el món exterior", comenta Silvia Martínez, directora del màster universitari de Social Media: Gestió i Estratègia de la UOC, professora dels Estudis de Ciències de la Informació i de la Comunicació de la UOC i investigadora del grup GAME. Alhora, "les emocions que es van experimentar durant aquell període excepcional van incrementar també la crispació: hi havia por, tensió, preocupació per la situació sanitària, un context econòmic d'incertesa…".

Si la pandèmia és un punt d'inflexió a partir del qual aquesta mena de missatges calen i es difonen més, els motius que els fan proliferar són variats. D'una banda, hi ha els de tipus psicosocial, cap als quals apunta Dolors Reig: la presència de "comunitats que fomenten i aplaudeixen aquests discursos" és un d'aquests tipus (com aquelles sobre les quals han actuat Wahedi i Thomas). Uns altres són l'anonimat i la distància emocional que implica no interactuar cara a cara, l'evasió de la responsabilitat "per percebre que s'actua en un espai virtual que genera la sensació que el context no és real", i l'efecte espiral cap a la transgressió. La saturació de missatges a les xarxes fa que "un necessiti ser cada vegada més transgressor per generar la mateixa atenció", explica la professora, que incideix en l'ús d'aquesta espiral que fan sovint els mateixos polítics: "Molts polítics han jugat a això: a dir la barbaritat més basta per aconseguir la popularitat", comenta l'experta.

Silvia Martínez, per part seva, parla de dinàmiques de funcionament i conversa de certes xarxes socials com a palanca que mou aquests missatges. "La immediatesa i el missatge breu afavoreixen la difusió de continguts més viscerals que racionals i argumentats. La reflexió i l'anàlisi perden terreny enfront de la reacció automàtica." També afegeix un altre factor que intervé en la proliferació: les interaccions, la viralitat. "Els algorismes solen potenciar aquests continguts que acumulen interaccions i donar-los més visibilitat, i el discurs de l'odi sol generar precisament un augment de les reaccions." Reig suma a aquestes causes la proliferació de partits d'ultradreta a tot el món i la circulació d'informació "distorsionada o directament falsa" que es propaga en aquestes plataformes. "Les xarxes socials s'han tornat instruments de propaganda", afirma.

Perfil de la víctima del discurs d'odi: ideologia diferent, origen diferent i orientació sexual o identitat de gènere diferents

Quins col·lectius reben més odi? L'últim Informe sobre l'evolució dels delictes d'odi a Espanya emès pel Ministeri d'Interior reflecteix que els tres objectes principals dels delictes d'odi són, per aquest ordre, els d'enfrontament ideològic (34,9 %), els vinculats al racisme i la xenofòbia (30,2 %) i els que atempten contra l'orientació sexual o la identitat de gènere (16,3 %). "Els partits amb ideologies més extremes estan promovent aquests discursos d'odi", indica Reig.

Respecte al racisme i la xenofòbia, l'Observatori Espanyol contra el Racisme i la Xenofòbia (OBERAXE) monitora diàriament el discurs d'odi a les xarxes socials i els notifica els continguts constitutius de delicte. En el seu últim butlletí de monitoratge (març-abril de 2023) indica que les xarxes han retirat el 55 % dels continguts denunciats. Els discursos d'odi cap a les persones nord-africanes i la islamofòbia copen el 60 % d'aquests continguts.

Quant als missatges d'odi relacionats amb l'orientació sexual o la identitat de gènere, el perfil de la víctima sol ser menor de quaranta anys, tal com reflecteix el citat informe d'Interior. En el cas del grup d'edat de 18 a 25 anys, constitueix el 42,5 % d'aquests delictes. "La naturalitat amb què la joventut llegeix missatges d'odi cap a les persones transsexuals a la xarxa porta al fet que a la societat fora de línia se li faci un assetjament escolar més dur", diu Reig.

L'esmentat OBERAXE, al seu memoràndum explicatiu, enumera els trets en els quals incideix el discurs de l'odi a la seva recomanació de política general núm. 15: racisme, discriminació racial, discriminació basada en el gènere, sexisme, homofòbia, transfòbia, xenofòbia, antisemitisme, islamofòbia i discriminació contra les persones gitanes, a més de diversos delictes que inclouen el genocidi o la trivialització d'aquesta mena de delictes.

Aprendre a combatre els discursos d'odi a les xarxes

L'estudi presentat per Laila A. Wahedi i Daniel Robert Thomas obre una porta als responsables de les xarxes socials per prendre mesures sobre aquest tema, però quines altres mesures es poden implementar per reduir i combatre el discurs d'odi? "Idealment, les mesures s'haurien de focalitzar en el fet que no es produís aquest discurs", explica Martínez, "però, una vegada iniciat, el fonamental és no alimentar-lo en comentar-lo o compartir-lo, perquè això és una manera de reacció i, com assenyalava abans, els algorismes solen donar més visibilitat als continguts que generen interaccions." A més, aquesta major visibilitat fa "més fàcil que es produeixin noves reaccions, que normalment solen ser viscerals i amb missatges cada vegada més polaritzats". Per Dolors Reig, és vital formar en l'ús de les xarxes i informar: "Al meu alumnat li dic, per exemple, quan sorgeix un vídeo d'abusos que atempta contra la dignitat de les persones, que ni el busquin ni el visualitzin, perquè al final els algorismes de les xarxes socials funcionen per popularitat."

Finalment, denunciar és una altra opció per frenar aquests perfils tòxics. "L'usuari ha de conèixer les opcions i vies per denunciar aquests continguts i posar-los en coneixement de les mateixes plataformes, que poden intervenir eliminant continguts i suspenent perfils i, fins i tot, en cas que s'hagi pogut incórrer en un delicte d'odi, posar-ho en coneixement de la policia o la guàrdia civil", incideix Martínez. Frenar-los evita conseqüències pitjors: "Això és el postdigitalisme", explica Dolors Reig. "Estem en una societat en què el que és digital influeix en el que és real. Els missatges d'odi porten la gent a suïcidar-se."