Los fantasmas digitales son una potencial amenaza para sus familiares vivos

Investigadores de la Universidad de Cambridge advierten que la emergente "industria digital del más allá" puede causar daños sociales y psicológicos: los familiares podrían convertirse en objetivos involuntarios de angustia emocional por parte de “robots muertos” de IA que se asemejan a sus seres queridos fallecidos.

Dos investigadores de la Universidad de Cambridge han publicado un artículo en la revista Philosophy & Technology en el que instan a la implementación de protocolos de seguridad para evitar que la emergente "industria del más allá digital" (DAI) cause daño social y psicológico a la población. Esta industria corre el riesgo de "atormentar" digitalmente a los que quedan atrás sin las salvaguardas adecuadas, según esta investigación.

¿Estamos preparados para la clonación digital de las personas fallecidas?

El innovador estudio, realizado por investigadores del Centro Leverhulme para el Futuro de la Inteligencia de Cambridge, analiza la creación de “robots muertos” como solo una de las muchas formas que puede adoptar DAI.

Estos expertos advierten al respecto que las tecnologías de inteligencia artificial bien intencionadas podrían tener consecuencias no deseadas en ausencia de las salvaguardias adecuadas.

Recreación digital

La DAI se refiere a un conjunto de servicios y tecnologías que permiten a las personas mantener una presencia virtual o interactuar con seres queridos fallecidos, a través de inteligencia artificial (IA) y otras herramientas digitales.

Esta industria abarca desde la creación de avatares digitales basados en la personalidad y datos de la persona fallecida, hasta la posibilidad de dejar mensajes, consejos e incluso mantener conversaciones con ellos después de su fallecimiento.

La industria de la vida digital después de la muerte comienza su actividad creando Avatares Digitales: mediante sistemas de inteligencia artificial, se recopilan datos y patrones de lenguaje de la persona fallecida para crear un avatar digital que simula su personalidad y comportamiento.

Diversidad de avatares

Existen varios tipos de avatares creados con inteligencia artificial que se utilizan en la vida digital después de la muerte.

Uno de ellos son los avatares que simulan la personalidad y patrones de lenguaje del fallecido: se crean recopilando los datos digitales y huellas dejadas por la persona fallecida para simular su personalidad y forma de comunicarse. Permiten a los familiares interactuar con un avatar que se asemeja al ser querido.

Otro de los perfiles son avatares que brindan consejos y mensajes dejados por el fallecido en vida: algunas plataformas permiten a las personas ir construyendo su "legado virtual" incorporando vídeos, escenarios favoritos e incluso consejos que serán procesados por sistemas de IA para generar un avatar que pueda interactuar con seres queridos después de la muerte.

Avatares dinámicos

También figuran los avatares que mantienen conversaciones y encuentros virtuales: utilizan la información proporcionada por el fallecido para mantener encuentros y conversaciones virtuales con familiares y amigos, dando una sensación de "presencia post mortem".

Por último, se encuentran los avatares que evolucionan con el tiempo: puedan aprender y evolucionar, recopilando datos de redes sociales y aplicaciones para crear una versión virtual cada vez más compleja y realista de la persona fallecida.

Encuentros en el ciberespacio

Una vez creados, los familiares y amigos pueden interactuar con estos avatares a través de mensajes, información, consejos e incluso mantener encuentros y conversaciones virtuales con ellos.

Esta interacción se potencia porque algunas plataformas ofrecen servicios como la generación automática de esquelas, condolencias, perfiles con mensajes y fotografías, creación de árboles genealógicos familiares, entre otros, para recordar y honrar a los fallecidos. Esta actividad crea tres subsectores principales: donantes de datos, destinatarios de datos e interactuantes de servicios.

Grandes empresas como Google incluso han implementado servicios para decidir qué hacer con la información y material digital de una persona fallecida, cómo administrar cuentas inactivas o crear un espacio conmemorativo en línea.

Campo de minas para la ética

Si bien esta innovación ofrece un nuevo tipo de "presencia post mortem", también plantea importantes preocupaciones éticas, señalan los científicos de Cambridge. Aunque hay empresas que ya están ofreciendo estos servicios, la falta de regulación y supervisión plantea interrogantes sobre el potencial de explotación y daño.

Katarzyna Nowaczyk-Basińska, una de las autoras de esta investigación, enfatiza la necesidad de priorizar la dignidad de los fallecidos y asegurar que los motivos financieros no invadan esta área sensible.

Su investigación destaca varios riesgos y consecuencias potenciales de un diseño descuidado en esta área. Por ejemplo, las empresas podrían usar deadbots para anunciar subrepticiamente productos a los usuarios en la manera en que lo haría un ser querido fallecido, o angustiar a los niños insistiendo en que un padre muerto todavía "está con vosotros". Estos escenarios subrayan la importancia de establecer salvaguardas para evitar el mal uso de esta tecnología, según esta investigación.

Recomendaciones

Las recomendaciones formuladas en esta investigación incluyen: desarrollar procedimientos sensibles para "retirar" los robots muertos; garantizar una transparencia significativa de los servicios de recreación a través de exenciones de responsabilidad sobre los riesgos y capacidades de los deadbots; restringir el acceso a los servicios de recreación únicamente a usuarios adultos; y seguir el principio de consentimiento mutuo, tanto de los donantes como de los receptores de datos, para participar en proyectos de recreación.

Referencia

Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry. Tomasz Hollanek & Katarzyna Nowaczyk-Basińska. Philosophy & Technology, Volume 37, article number 63, 09 May 2024. DOI:https://doi.org/10.1007/s13347-024-00744-w