Claus perquè el jovent adquireixi hàbits digitals lliures de discriminacions o contra el ciberassetjament

L'any passat, més d'una vintena de noies menors d'edat van descobrir, escandalitzades, que alguns dels seus companys havien utilitzat intel·ligència artificial per crear imatges falses en les quals apareixien despullades. I aquestes imatges corrien pels grups de WhatsApp dels escolars de la localitat extremenya d'Almendralejo. No va ser un cas aïllat, sinó que, gairebé de manera simultània, en localitats de Huelva i de Madrid es van repetir situacions similars.

Són exemples de pornografia deep fake, que es basa en la intel·ligència artificial (IA) per generar imatges explícites utilitzant rostres robats d'altres persones. Per produir-les, no cal ser un expert, sinó que n'hi ha prou amb descarregar una app o visitar un web, com ho demostra el cas d'aquests nois, que és als tribunals.

Segons dades recollides per Qustodio, la plataforma de seguretat online per a famílies, només l'any passat un de cada cinc menors d'entre quatre i divuit anys va utilitzar alguna eina d'IA generativa, com ara ChatGPT o OpenIA.

"La majoria dels joves utilitzen IA des d'edats molt primerenques i no es qüestionen res sobre aquestes eines", sosté Milagros Sáinz, investigadora líder del grup Gènere i TIC (GenTIC), de l'Internet Interdisciplinary Institute (IN3) de la Universitat Oberta de Catalunya (UOC), que assenyala que aquestes tecnologies digitals estan subjectes a biaixos, estereotips i discriminació, i poden afectar la salut mental i el benestar emocional dels menors, sobretot de les noies, que són les que reben més ciberatacs i són víctimes de ciberassetjament.

"Cal inculcar-los —als adolescents— la necessitat de fer un ús ètic i responsable d'aquests recursos per afavorir-ne l'equilibri, la integritat física i mental", assenyala. I per fer-ho, segons aquesta experta, cal educar els joves en benestar digital, un concepte que engloba tots els hàbits que afavoreixen un ús segur, saludable, equilibrat i crític no només de la IA, sinó també dels mitjans digitals en general; i, remarca, fer-ho incloent la perspectiva de gènere.

Formar el professorat

Sáinz ha coordinat, juntament amb l'associació EduAlter, especialitzada en l'educació per a la justícia global, un informe i una sèrie de fitxes dirigides al professorat —sobretot de secundària, encara que pot ser útil en altres edats— per impactar en positiu i donar-los eines perquè puguin educar i empoderar l'alumnat en l'ús crític dels mitjans digitals. Les fitxes s'han elaborat en el marc del projecte RETO, amb el suport financer de l'Agència Catalana de Cooperació al Desenvolupament.

"Hem elaborat un kit de continguts per introduir eines digitals a l'aula amb perspectiva de gènere, tots amb l'objectiu d'evitar l'exclusió social i empoderar els joves digitalment", resumeix Sáinz.

Sobretot, afegeix, les noies i dones joves, ja que són elles les que més assetjament i ciberatacs reben —segons un informe elaborat per l'Institut de les Dones el 2022—, ja sigui per insultar-les, criticar-les, convèncer-les d'entrar en contacte amb persones d'identitat i intencions dubtoses, ser objecte d'atacs sexistes o rebre sol·licituds d'enviament de fotos íntimes. Aquest mateix informe revela que vuit de cada deu enquestades va afirmar que havia patit alguna situació d'assetjament a les xarxes socials, la meitat de les quals motivades per la cerca d'una relació íntima.

Per a Sáinz, és crucial que el professorat, des de l'aula, pugui treballar amb l'alumnat temes com el fet de no compartir continguts que els puguin comprometre, ni tampoc contrasenyes, fotos o informació personal. "De la mateixa manera que no deixaries a un desconegut entrar a casa teva, no li has de deixar entrar al teu ordinador ni compartir la teva identitat digital", resumeix l'experta, que recorda que les nenes i les dones són més susceptibles de patir atacs a les xarxes socials que els nens i els homes.

"Les xarxes no són més que una extensió o amplificació de les desigualtats de gènere ja existents, i els mitjans digitals simplement s'aprofiten d'aquestes febleses i de la vulnerabilitat de les joves, molt condicionades per la pressió estètica, sobretot en els primers anys d'adolescència", afirma Sáinz.

Tallar amb els estereotips

La pressió dels estereotips, que en el cas de les noies té una gran influència, és un dels aspectes que aborda el material elaborat per GenTIC per treballar amb els docents a l'aula. Només cal veure, apunta Sáinz, la gran quantitat de filtres que utilitzen en les seves fotografies a les xarxes socials.

Alguns estudis científics mostren que els adolescents busquen, a través de les xarxes, l'acceptació o validació social, principalment, del seu grup d'iguals, la qual cosa n'afecta tant el benestar com l'autoestima. I més perquè, durant l'adolescència, donen una gran importància a la imatge i a l'aparença física. Alguns estudis demostren que fins i tot l'ús de xarxes socials està associat a trastorns de la imatge corporal.

I és que des del primer moment en què un adolescent té un mòbil a les mans, de manera inconscient està influït pels algorismes de diferents aplicacions i webs, les quals, en funció de si són noies o nois, ja els ofereixen continguts relacionats amb els que se suposa que deuen ser els seus gustos, des de música fins a interessos personals. Sense qüestionar-se els resultats que en reben, els joves perpetuen discriminacions i desigualtats.

Per això, insisteix Sáinz, és important educar en benestar digital. "Hem d'empoderar-los perquè puguin afrontar els reptes del futur que té aquest àmbit digital", conclou.

Aquest projecte contribueix als objectius de desenvolupament sostenible (ODS) de l'ONU: 3, de salut i benestar; 4, d'educació de qualitat; 5, d'igualtat de gènere; i 16, de pau, justícia i institucions sòlides.

UOC R&I

La recerca i innovació (R+I) de la UOC contribueix a solucionar els reptes a què s'enfronten les societats globals del segle XXI mitjançant l'estudi de la interacció de la tecnologia i les ciències humanes i socials, amb un focus específic en la societat xarxa, l'aprenentatge en línia i la salut digital.

Els més de 500 investigadors i investigadores i més de 50 grups de recerca s'articulen entorn dels set estudis de la UOC, un programa de recerca en aprenentatge en línia (e-learning research) i dos centres de recerca: l'Internet Interdisciplinary Institute (IN3) i l'eHealth Center (eHC).

A més, la Universitat impulsa la innovació en l'aprenentatge digital mitjançant l'eLearning Innovation Center (eLinC), i la transferència de coneixement i l'emprenedoria de la comunitat UOC amb la plataforma Hubbik.

Els objectius de l'Agenda 2030 per al Desenvolupament Sostenible de les Nacions Unides i el coneixement obert són eixos estratègics de la docència, la recerca i la innovació de la UOC. Més informació: research.uoc.edu.