La tecnología de la persuasión, ¿a juicio?

El pasado enero, las escuelas públicas de Seattle demandaron a varias plataformas de redes sociales acusándolas de daños mentales a sus alumnos. Entre los diversos puntos que utilizan en la introducción de la demanda presentada se explica que los jóvenes "son particularmente susceptibles porque sus cerebros no están plenamente desarrollados y, en consecuencia, les falta la madurez emocional, el control de las impulsos y la resiliencia psicológica de otros usuarios más maduros". "En edades en las que todavía estamos formando nuestra personalidad y aprendiendo a aceptarnos tal como somos, el contraste [entre el físico propio y el retocado de las imágenes que ven en Instagram] puede resultar particularmente demoledor", explica Ferran Lalueza, profesor de los Estudios de Ciencias de la Información y de la Comunicación.

El debate ético frente al debate jurídico

Las redes sociales utilizan la persuasión para crear adicción entre sus usuarios, tal como explica Manuel Armayones, profesor de los Estudios de Psicología y Ciencias de la Educación de la UOC y coordinador del grupo de investigación Behavior Design Lab del eHealth Center: "Como productos comerciales que son, no tienen otro objeto para sus accionistas que el de generar beneficio". Las técnicas de personalización creadas mediante algoritmos llevan a cada usuario a tener una experiencia muy ajustada a sus gustos, lo que facilita que cada vez se esté más tiempo. "Cuanto más tiempo estemos dentro de ellas, más precisas serán las recomendaciones de tipo comercial que nos irán llegando", indica Armayones. Hace alrededor de año y medio, el diario estadounidense Wall Street Journal destapó la existencia de documentos internos en Facebook que apuntaban a que Instagram, también propiedad de Mark Zuckerberg, causaba efectos dañinos en las adolescentes.

Pero una cosa es el problema ético que se desprende de estos informes en cuanto al uso de redes sociales, y otra, las responsabilidades jurídicas que puedan derivarse de demandas como la interpuesta por las escuelas de Seattle. Sergio de Juan-Creix, profesor colaborador de los Estudios de Ciencias de la Información y de la Comunicación y abogado experto en Derecho Digital del despacho Croma Legal, pone el acento en la responsabilidad compartida de que los más jóvenes tengan perfiles sociales: "Hay, al menos, un triple nivel de responsabilidad: la de las propias plataformas y cómo están diseñadas, la de los educadores, que son las familias, tutores y las escuelas, y la del regulador". Este, como responsable último de aprobar las leyes que se aplican a estas plataformas. "En España, por ejemplo, puedes prestar tu consentimiento en materia de datos personales a partir de los 14 años. Por ello, no podemos culpar únicamente a las redes sociales por permitir que los menores las utilicen porque, de hecho, pueden hacerlo. El debate gira en torno a si esta edad debería elevarse, por una parte; y por otra, en pedir más transparencia a las redes sociales, tanto para con los usuarios como para con el regulador, a fin de que expliquen no solo cómo y con qué finalidad tratan nuestros datos personales, sino también respecto a cómo y con qué fines están programadas y diseñadas para evitar el uso de patrones oscuros", añade De Juan-Creix.

Acreditar el daño mental, lo más complicado

Según el estudio Impacto de las pantallas en la vida de la adolescencia y sus familias en situación de vulnerabilidad social: realidad y virtualidad, realizado por Cáritas hace un año, cerca de un 70 % de los adolescentes acompañados por esta organización invierte al menos una hora diaria en mirar redes sociales. De ese porcentaje, la mitad le dedica más de tres horas. La cifra se dispara durante los fines de semana. La guía Cómo proteger a los menores de los peligros de las redes sociales, publicada el pasado noviembre por Team Lewis y la Fundación Tomillo, que trabaja con jóvenes en situación de vulnerabilidad, arroja estas cifras: el 84,5 % de los menores tiene perfiles en redes sociales y el tiempo que les dedican al año supera al que pasan en el instituto (1058 horas/1054 horas). Meta (la empresa que aglutina a Facebook e Instagram) ha comenzado a promover algunos cambios que hacen la experiencia en redes sociales más segura para ellos, pero más orientados a proteger su privacidad que a evitar potenciales problemas psicológicos. "Cada vez hay más estudios que alertan de que Instagram puede afectar negativamente la salud mental de los usuarios, particularmente de las adolescentes", explica Lalueza. Con 2.000 millones de usuarios en la actualidad, Instagram es una de las redes más utilizadas en este segmento de población. Según se indica en la ya mencionada demanda de las escuelas públicas de Seattle, las ratios de menores con problemas de salud mental se han incrementado año tras año desde 2010, con "proporciones cada vez mayores de jóvenes luchando contra la ansiedad, depresión, pensamientos de autolesiones e ideaciones suicidas".

"Considero muy difícil cuantificar el impacto negativo del uso de redes sociales en la salud mental de los adolescentes (para empezar: ¿qué queremos cuantificar?), pero personalmente creo que estamos siendo muy laxos a la hora de legislar sobre estas", explica De Juan-Creix. En Europa, la Ley de Servicios Digitales de la UE (DSA), que entró en vigor el pasado 16 de noviembre, prevé la creación de un Centro Europeo para la Transparencia Algorítmica (CETA) para vigilar que los algoritmos operan conforme a los estándares de la mencionada ley. "La DSA intenta evitar patrones oscuros y también impedir la publicidad segmentada dirigida a menores", apunta Sergio de Juan-Creix. Esto evitaría ciertos comportamientos por parte de las redes sociales en territorio europeo: "Europa tiene la normativa más garantista del mundo", añade. De hecho, Meta anunció que, a partir de febrero, ya no ofrecería a los anunciantes la opción de segmentar por género en adolescentes, algo sobre lo que el experto en Derecho Digital puntualiza: "Parece que este cambio guardaría relación con el cambio normativo que trae la DSA sobre ciertos límites a la publicidad dirigida a menores. Esta anticipación de META podría tener justificación en intentar mitigar los efectos negativos de las últimas sanciones recibidas en materia de protección de datos, algunas de las cuales están relacionadas con el tratamiento de datos de menores".

Un comité ético como alternativa

¿Cabría la posibilidad de que una sentencia contra estos gigantes tecnológicos creara jurisprudencia? "Habría que llegar a la conclusión de que causa daño mental, habría que acreditar el nexo causal que genere esta responsabilidad", comenta Sergio de Juan-Creix. "En todo caso, hay que diferenciar entre las consecuencias invisibles o silenciosas, esto es, el impacto negativo que pueden tener en aspectos tan complejos como la salud mental, y las visibles o notorias, como por ejemplo casos de acoso escolar en redes sociales, que ya tienen su represión penal. Lo primero es más etéreo y complejo, y hay que legislar para que haya una programación más transparente", afirma. En este sentido, sugiere "la creación de un comité ético para ver cómo se programan estas plataformas. Tenemos una responsabilidad compartida, y quizá estos primeros movimientos judiciales en EE. UU. sirvan para establecer un nuevo y mejor control, lo que cobra más sentido aún con la llegada de la inteligencia artificial". Y añade: "Es el momento de empezar a plantearse un futuro más transparente en el que el ciudadano tenga más información y control. ¿Queremos seguir como hasta ahora en el futuro?".