La tecnologia de la persuasió, a judici?

El gener passat, les escoles públiques de Seattle van demandar diverses plataformes de xarxes socials acusant-les de danys mentals als seus alumnes. Entre els diversos punts que utilitzen en la introducció de la demanda presentada s'explica que els joves "són particularment susceptibles perquè els seus cervells no estan plenament desenvolupats i, en conseqüència, els falta la maduresa emocional, el control dels impulsos i la resiliència psicològica d'altres usuaris més madurs". "En edats en què encara estem formant la nostra personalitat i aprenent a acceptar-nos tal com som, el contrast [entre el físic propi i el retocat de les imatges que veuen a Instagram] pot ser particularment demolidor", explica Ferran Lalueza, professor dels Estudis de Ciències de la Informació i de la Comunicació de la UOC i investigador del grup GAME.

El debat ètic enfront del debat jurídic

Les xarxes socials utilitzen la persuasió per crear addicció entre els seus usuaris, tal com explica Manuel Armayones, professor dels Estudis de Psicologia i Ciències de l'Educació de la UOC i coordinador del grup de recerca Behavior Design Lab de l'eHealth Center: "Com a productes comercials que són, no tenen cap altre objecte per als seus accionistes que el de generar benefici". Les tècniques de personalització creades mitjançant algorismes fan que cada usuari tingui una experiència molt ajustada als seus gustos, cosa que facilita que cada vegada s'hi estigui més temps. "Com més temps hi passem, més precises seran les recomanacions de tipus comercial que ens aniran arribant", indica Armayones. Fa prop d'any i mig, el diari estatunidenc Wall Street Journal va destapar l'existència de documents interns a Facebook que apuntaven que Instagram, també propietat de Mark Zuckerberg, causava efectes nocius en les adolescents.

Però una cosa és el problema ètic que es desprèn d'aquests informes pel que fa a l'ús de xarxes socials, i una altra, les responsabilitats jurídiques que es puguin derivar de demandes com la interposada per les escoles de Seattle. Sergio de Juan-Creix, professor col·laborador dels Estudis de Ciències de la Informació i de la Comunicació de la UOC i advocat expert en dret digital del despatx Croma Legal, posa l'accent en la responsabilitat compartida del fet que els més joves tinguin perfils socials: "Hi ha, almenys, un triple nivell de responsabilitat: la de les mateixes plataformes i com estan dissenyades, la dels educadors, que són les famílies, tutors i les escoles, i la del regulador". Aquest, com a responsable últim d'aprovar les lleis que s'apliquen a aquestes plataformes. "A Espanya, per exemple, pots prestar el consentiment en matèria de dades personals a partir dels 14 anys. Per això, no podem culpar únicament les xarxes socials per permetre que els menors les utilitzin perquè, de fet, poden fer-ho. El debat tracta sobre si aquesta edat s'hauria d'elevar, d'una banda; i de l'altra, sobre demanar més transparència a les xarxes socials, tant envers els usuaris com envers el regulador, a fi que expliquin no només com i amb quina finalitat tracten les nostres dades personals, sinó també respecte a com i amb quines finalitats estan programades i dissenyades per evitar l'ús de patrons foscos", afegeix De Juan-Creix.

Acreditar el mal mental, el més complicat

Segons l'estudi Impacto de las pantallas en la vida de la adolescencia y sus familias en situación de vulnerabilidad social: realidad y virtualidad, elaborat per Càritas fa un any, prop d'un 70 % dels adolescents acompanyats per aquesta organització inverteix, com a mínim, una hora diària a mirar xarxes socials. D'aquest percentatge, la meitat hi dedica més de tres hores. La xifra es dispara durant els caps de setmana. La guia Cómo proteger a los menores de los peligros de las redes sociales, publicada el novembre passat per Team Lewis i la Fundació Tomillo, que treballa amb joves en situació de vulnerabilitat, dona aquestes xifres: el 84,5 % dels menors té perfils en xarxes socials i el temps que els dediquen a l'any supera el que passen a l'institut (1058 hores/1054 hores). Meta (l'empresa que aglutina Facebook i Instagram) ha començat a promoure alguns canvis que fan l'experiència en xarxes socials més segura per a ells, però més orientats a protegir la seva privacitat que a evitar problemes psicològics potencials. "Cada vegada hi ha més estudis que alerten que Instagram pot afectar negativament la salut mental dels usuaris, particularment de les adolescents", explica Lalueza. Amb 2.000 milions d'usuaris en l'actualitat, Instagram és una de les xarxes més emprades en aquest segment de població. Segons s'indica en la demanda ja esmentada de les escoles públiques de Seattle, les ràtios de menors amb problemes de salut mental s'han incrementat any rere any des del 2010, amb "proporcions cada vegada més grans de joves lluitant contra l'ansietat, la depressió, els pensaments d'autolesions i les ideacions suïcides".

"Considero molt difícil quantificar l'impacte negatiu de l'ús de xarxes socials en la salut mental dels adolescents (per començar: què volem quantificar?), però personalment crec que estem sent molt laxos a l'hora de legislar sobre aquestes", explica De Juan-Creix. A Europa, la Llei de serveis digitals de la UE (DSA), que va entrar en vigor el 16 de novembre passat, preveu la creació d'un Centre Europeu per a la Transparència Algorítmica (CETA) a fi de vigilar que els algorismes operen d'acord amb els estàndards de la llei esmentada. "La DSA intenta evitar patrons foscos i també impedir la publicitat segmentada dirigida a menors", apunta Sergio de Juan-Creix. Això evitaria certs comportaments per part de les xarxes socials en territori europeu: "Europa té la normativa més garantista del món", afegeix. De fet, Meta va anunciar que, a partir del febrer, ja no oferiria als anunciants l'opció de segmentar per gènere en adolescents, un aspecte sobre el qual l'expert en dret digital puntualitza: "Sembla que aquest canvi guardaria relació amb el canvi normatiu que comporta la DSA sobre certs límits a la publicitat dirigida a menors. Aquesta anticipació de META podria tenir justificació a intentar mitigar els efectes negatius de les últimes sancions rebudes en matèria de protecció de dades, algunes de les quals estan relacionades amb el tractament de dades de menors."

Un comitè ètic com a alternativa

Hi hauria la possibilitat que una sentència contra aquests gegants tecnològics creés jurisprudència? "Caldria arribar a la conclusió que causa mal mental, caldria acreditar el nexe causal que generi aquesta responsabilitat", comenta Sergio de Juan-Creix. "En tot cas, cal diferenciar entre les conseqüències invisibles o silencioses, és a dir, l'impacte negatiu que poden tenir en aspectes tan complexos com la salut mental, i les visibles o notòries, com per exemple casos d'assetjament escolar en xarxes socials, que ja tenen la seva repressió penal. El primer és més eteri i complex, i cal legislar perquè hi hagi una programació més transparent", afirma. En aquest sentit, suggereix "crear un comitè ètic per veure com es programen aquestes plataformes. Tenim una responsabilitat compartida i potser aquests primers moviments judicials als EUA serveixin per establir un control nou i millorat, la qual cosa cobra més sentit encara amb l'arribada de la intel·ligència artificial". I afegeix: "És el moment de començar a plantejar-se un futur més transparent en què el ciutadà tingui més informació i control. Volem seguir com fins ara en el futur?".