Deadbots y regulación: un debate ético y legal imprescindible

El nuevo marco legal europeo sobre inteligencia artificial (IA), la EU AI Act entró en vigor el pasado 1 de agosto con el objetivo de evitar violaciones de derechos que se puedan dar con la aplicación de esta tecnología. La normativa clasifica la IA según el nivel de riesgo que pueda tener para los individuos y la sociedad, y prohíbe tecnologías que supongan un "riesgo inaceptable", como, por ejemplo, las que manipulan y explotan la vulnerabilidad de las personas.

Una tecnología que podría entrar en esta categoría son los llamados deadbots, que algunas empresas ya están desarrollando para llevar al mercado en un futuro próximo. Se trata de chatbots que se diseñan a partir de la huella digital de una persona fallecida (mensajes de WhatsApp, de redes sociales, correos electrónicos, etc.) y que son capaces de mantener conversaciones con los familiares y amigos del muerto, emulando su personalidad. Aunque pueda parecer ciencia ficción, no lo es, y servicios de este tipo están cada vez más cerca de lo que podamos imaginar.

La doctora en Psicología, Belén Jiménez, profesora de los Estudios de Psicología y Ciencias de la Educación e investigadora del grupo CareNet, del IN3 de la Universitat Oberta de Catalunya (UOC), es especialista en la mediación tecnológica del duelo, y uno de sus focos de investigación son los deadbots, ámbito en el que ha publicado varios estudios. 

Un debate complejo sin respuestas claras

"Aunque los deadbots no estén comercializados aún, es necesario reflexionar sobre los aspectos bioéticos de esta tecnología. Es posible que dentro de poco se normalice su uso, como ha pasado con otras aplicaciones que en un primer momento pudieron sorprender socialmente, pero cuyo uso hoy está extendido, como, por ejemplo, las aplicaciones de citas. Cada vez están surgiendo más empresas en el ámbito de la llamada digital afterlife industry, y van mejorando la tecnología", explica Jiménez. La doctora en Psicología cree esencial "estudiar cómo los deadbots mediatizan el duelo y pueden llegar a transformarlo. Es un campo sobre el cual casi no hay estudios científicos y no hay respuestas claras, pues su uso y sus efectos dependen de diversos factores, entre ellos, de cómo se diseñen estas tecnologías".

Entre otros aspectos, la nueva legislación europea establece que los chatbots deben informar al usuario de que se está comunicando con un programa informático y no con una persona. Aunque clasifica esta tecnología como de "riesgo limitado", en contextos sensibles como el de la salud —que sería el caso de los deadbots—, las implicaciones de estos programas deben ser analizadas a conciencia.

En las investigaciones realizadas por Belén Jiménez, que también es miembro del grupo de investigación CERPOP de la Universidad de Toulouse, se ha visto que los dolientes manifiestan una actitud ambivalente hacia esta nueva tecnología: el deseo de mantener los lazos afectivos con sus seres queridos se mezcla con la inquietud que provoca interactuar con un programa basado en la huella digital del fallecido.

Los deadbots se apoyan en los llamados "lazos continuos" entre el doliente y la persona traspasada, un término frecuente en el campo de la psicología del duelo. La investigadora de la UOC asegura que "estas tecnologías se aprovechan de la necesidad de los seres humanos de establecer vínculos emocionales". En realidad, podría equivaler a una versión tecnológica y avanzada de conversar de forma imaginaria con nuestro ser querido delante de su tumba o mantener su recuerdo a través de fotografías y videos. "Esta necesidad de mantener los lazos no tiene por qué ser patológica —explica Jiménez—, y es algo normal para muchas personas. Con todo, en el uso de los se deben establecer ciertas precauciones, y es esencial regular su utilización, pues los intereses de lucro de las empresas que los comercializan pueden no estar alineados con el potencial uso terapéutico que pueda tener esta tecnología".

A falta de estudios, Jiménez apunta que los efectos psicológicos de estas tecnologías estarán condicionados por el propio usuario, por la relación que mantenía con el fallecido y por la relación que establezca con el chatbot. "Uno de los peligros es que se podrían generar efectos negativos, como la creación de una relación de dependencia e, incluso, el sufrimiento provocado por una segunda pérdida si el deadbot desaparece —por ejemplo, por problemas técnicos—".

Regular la digital afterlife industry

Nuestra aspiración a la inmortalidad y el avance tecnológico están dando alas a la digital afterlife industry, un sector que digitaliza la memoria de las personas fallecidas con el fin de extender su memoria e incluso su actividad digital. Todo ello conlleva no pocas implicaciones éticas y sociales. Las compañías persiguen fines comerciales y económicos que pueden ser contradictorios con los objetivos terapéuticos potenciales de estas herramientas. Estrategias como que los deadbots envíen notificaciones y otras acciones para mantener "enganchado" al doliente pueden ser éticamente cuestionables, según Jiménez.

"Estamos ante un nuevo desarrollo tecnológico basado en inteligencia artificial que comporta riesgos elevados y que debe ser regulado para prever sus posibles efectos negativos, al mismo tiempo que debemos tener en cuenta su dimensión ética", asegura la investigadora. "La nueva normativa europea está enfocada en promover la transparencia de estas tecnologías, lo que es fundamental en aspectos tan sensibles como el duelo. Además, las empresas que desarrollen estos servicios deberán cumplir con estándares rigurosos e invertir en programas de auditoría, transparencia y documentación", explica. La AI Act prevé multas de hasta 30 millones de euros o del 6 % de la facturación de una corporación si no cumple con esta regulación.

A falta de una normativa específica para los deadbots, Jiménez propone que la regulación "vele especialmente por el respeto y la dignidad de la persona fallecida, además de promover el bienestar psicológico del usuario, sobre todo si está en duelo".

Esta investigación favorece el Objetivo de Desarrollo Sostenible (ODS) 3, de salud y bienestar.

Artículos de referencia:

Jiménez-Alonso, B., & Brescó de Luna, I. (2024). AI and grief: a prospective study on the ethical and psychological implications of deathbots .. In S. Caballé, J. Casas-Roma, & J. Conesa (Eds.), Ethics in online AI-based systems (pp. 175-191). Academic Press. doi: https://doi.org/10.1016/B978-0-443-18851-0.00011-1

Jiménez-Alonso, B., & Brescó de Luna, I. (2022). Mediación tecnológica en el duelo: un análisis de los griefbots desde la psicología cultural. Pensamiento Psicológico, 20. https://doi.org/10.11144/Javerianacali.PPSI20.mdpc

UOC R&I

La investigación e innovación (I+i) de la UOC contribuye a solucionar los retos a los que se enfrentan las sociedades globales del siglo XXI mediante el estudio de la interacción de la tecnología y las ciencias humanas y sociales, con un foco específico en la sociedad red, el aprendizaje en línea y la salud digital.

Los más de 500 investigadores e investigadoras y más de 50 grupos de investigación se articulan en torno a los siete estudios de la UOC, un programa de investigación en aprendizaje en línea (e-learning research) y dos centros de investigación: el Internet Interdisciplinary Institute (IN3) y el eHealth Center (eHC).

La universidad impulsa, también, la innovación en el aprendizaje digital a través del eLearning Innovation Center (eLinC), y la transferencia de conocimiento y el emprendimiento de la comunidad UOC con la plataforma Hubbik.

Los objetivos de la Agenda 2030 para el Desarrollo Sostenible de las Naciones Unidas y el conocimiento abierto son ejes estratégicos de la docencia, la investigación y la innovación de la UOC. Más información: research.uoc.edu.