Claves para que los jóvenes adquieran hábitos digitales libres de discriminaciones o contra el ciberacoso

En el pasado año, más de una veintena de chicas menores de edad descubrían, escandalizadas, que algunos de sus compañeros habían usado inteligencia artificial para crear imágenes falsas en las que aparecían desnudas. Y esas imágenes corrían por los grupos de WhatsApp de los escolares de la localidad extremeña de Almendralejo. Aquel no fue un caso aislado, sino que, casi de forma simultánea, en localidades de Huelva y de Madrid se repetían situaciones similares.

Son ejemplos de pornografía deep fake, que se basa en la inteligencia artificial (IA) para generar imágenes explícitas utilizando rostros robados de otras personas. Para producirlas no hace falta ser un experto, sino que basta con descargarse una app o visitar una web, como demuestra el caso de estos chavales, que está en los tribunales.

Según datos recogidos por Qustodio, la plataforma de seguridad online para familias, solo el año pasado uno de cada cinco menores de entre cuatro y dieciocho años utilizó alguna herramienta de IA generativa, como ChatGPT u OpenAI.

"La mayoría de los jóvenes utilizan IA desde edades muy tempranas sin cuestionarse nada acerca de estas herramientas", sostiene Milagros Sáinz, investigadora líder del grupo Género y TIC (GenTIC), del Internet Interdisciplinary Institute (IN3) de la Universitat Oberta de Catalunya (UOC), que señala que estas tecnologías digitales están sujetas a sesgos, estereotipos y discriminación, y pueden afectar a la salud mental y el bienestar emocional de los menores, sobre todo de las chicas, que son quienes reciben más ciberataques y son víctimas de ciberacoso.

"Hay que inculcarles —a los adolescentes— la necesidad de hacer un uso ético y responsable de estos recursos para favorecer su equilibrio, su integridad física y mental", señala. Y para ello, según esta experta, es necesario educar a los jóvenes en bienestar digital, un concepto que engloba todos aquellos hábitos que favorecen un uso seguro, saludable, equilibrado y crítico no solo de la IA, sino de los medios digitales en general; y, remarca, hacerlo incluyendo la perspectiva de género.

Formar al profesorado

Sáinz ha coordinado, junto a la asociación EduAlter, especializada en la educación para la justicia global, un informe y una serie de fichas dirigidas a profesorado —sobre todo de secundaria, aunque puede ser útil en otras edades— para impactar en positivo y darle herramientas para que pueda educar y empoderar al alumnado en un uso crítico de los medios digitales. Las fichas se han elaborado en el marco del proyecto RETO, con el apoyo financiero de la Agencia Catalana de Cooperación al Desarrollo.

"Hemos elaborado un kit de contenidos para introducir herramientas digitales en el aula con perspectiva de género, todos ellos con el objetivo de evitar la exclusión social y empoderar a los jóvenes digitalmente", resume Sáinz.

Sobre todo, apostilla, a las chicas y mujeres jóvenes, puesto que son ellas quienes más acoso y ciberataques reciben —según un informe elaborado por el Instituto de las Mujeres en 2022—, ya sea para insultarlas, criticarlas, convencerlas de entrar en contacto con personas de dudosa identidad e intenciones, ser objeto de ataques sexistas o recibir solicitudes de envío de fotos íntimas. Ese mismo informe arroja que ocho de cada diez encuestadas reportó haber sufrido alguna situación de acoso en redes sociales, la mitad de las cuales motivadas por la búsqueda de una relación íntima.

Para Sáinz, resulta crucial que desde el aula el profesorado pueda trabajar con el alumnado temas como el hecho de no compartir contenidos que les puedan comprometer, ni tampoco contraseñas, fotos o información personal. "Como no dejarías pasar a un desconocido a tu casa, no le debes dejar entrar a tu ordenador ni compartir tu identidad digital", resume la experta, que recuerda que las niñas y las mujeres son más susceptibles de sufrir ataques en redes sociales que los niños y los hombres.

"Las redes no son más que una extensión o amplificación de las desigualdades de género ya existentes, y los medios digitales simplemente se aprovechan de esas debilidades y de la vulnerabilidad de las jóvenes, muy condicionadas por la presión estética, sobre todo en los primeros años de adolescencia", afirma Sáinz.

Cortar con los estereotipos

La presión de los estereotipos, que en el caso de las chicas tiene una gran influencia, es uno de los aspectos que aborda el material elaborado por GenTIC para trabajar con los docentes en el aula. Basta mirar, apunta Sáinz, a la gran cantidad de filtros que utilizan en sus fotografías en redes sociales.

Algunos estudios científicos muestran como los adolescentes buscan a través de las redes la aceptación o validación social, principalmente, de su grupo de pares, lo cual afecta tanto a su bienestar como a su autoestima. Y más porque, durante la adolescencia, conceden una gran importancia a la imagen y la apariencia física. Algunos estudios demuestran cómo incluso el uso de redes sociales está asociado con trastornos de la imagen corporal.

Y es que desde el primer momento que un adolescente tiene un móvil en sus manos, de manera inconsciente está influenciado por los algoritmos de distintas aplicaciones y webs, que, en función de si son chicas o chicos, ya les ofrecen contenidos relacionados con los que se supone que serán sus gustos, desde música a intereses personales. Sin cuestionarse los resultados que reciben, los jóvenes perpetúan discriminaciones y desigualdades.

De ahí, insiste Sáinz, la importancia de educar en bienestar digital. "Tenemos que empoderarlos para que puedan afrontar los retos del futuro que tiene este ámbito digital", concluye.

Este proyecto contribuye a los objetivos de desarrollo sostenible (ODS) de la ONU: 3, de salud y bienestar; 4 de educación de calidad; 5, de igualdad de género; y 16, de paz, justicia e instituciones sólidas.

UOC R&I

La investigación e innovación (I+i) de la UOC contribuye a solucionar los retos a los que se enfrentan las sociedades globales del siglo XXI mediante el estudio de la interacción de la tecnología y las ciencias humanas y sociales, con un foco específico en la sociedad red, el aprendizaje en línea y la salud digital.

Los más de 500 investigadores e investigadoras y más de 50 grupos de investigación se articulan en torno a los siete estudios de la UOC, un programa de investigación en aprendizaje en línea (e-learning research) y dos centros de investigación: el Internet Interdisciplinary Institute (IN3) y el eHealth Center (eHC).

La universidad impulsa, también, la innovación en el aprendizaje digital a través del eLearning Innovation Center (eLinC), y la transferencia de conocimiento y el emprendimiento de la comunidad UOC con la plataforma Hubbik.

Los objetivos de la Agenda 2030 para el Desarrollo Sostenible de las Naciones Unidas y el conocimiento abierto son ejes estratégicos de la docencia, la investigación y la innovación de la UOC. Más información: research.uoc.edu.