La inteligencia artificial ya permite hablar con seres queridos fallecidos: ¿cuáles son los riesgos éticos y psicológicos?

La tecnología ofrece la posibilidad de crear avatares de los que ya no están para que los usuarios puedan conversar con ellos en tiempo real, reproduciendo su imagen y voz

YouTube permitirá denunciar contenidos generados por IA sin autorización

Duelo
Duelo
Agencias

03 de julio 2024 - 19:55

Cuando fallece un ser querido podemos recordarle con sus fotos, vídeos o mensajes e incluso hablar con él en nuestra mente, pero ¿y si fuera capaz de contestarnos?

No hay nada de sobrenatural en ello, sino una aplicación más de la inteligencia artificial (IA), no exenta de interrogantes socio-éticos.

Como si se tratara de desafiar a la muerte o de prometer algo parecido a la vida eterna, la industria digital de después de la muerte ofrece la posibilidad de crear avatares de los que ya no están para que los usuarios puedan conversar con ellos en tiempo real, reproduciendo su imagen y voz, solo esta última o por escrito.

Estos bots de duelo se crean a partir de la huella digital del fallecido -contenido en redes sociales, mensajerías, correos electrónicos-, que es procesada por una red neuronal, que aprender a imitar su comportamiento o forma de pensar.

Una forma de vivir el duelo

Cada persona tiene una manera de vivir el duelo y estas tecnologías pueden cambiar la forma de enfrentarnos a él. La doctora en Psicología Belén Jiménez, de la Universitat Oberta de Catalunya, señala a EFE que es "imprescindible velar por el respeto y la dignidad de la persona fallecida como por el bienestar psicológico del usuario".

En este terreno -agrega- no hay respuestas de "todo o nada", porque se trata de una cuestión compleja, que depende de la tecnología, de la persona en duelo y de los diseñadores de la herramienta. Además, aún no hay casi estudios científicos.

Videos conversacionales en los que la persona graba respuestas a preguntas sobre su vida, conversaciones con chatbots generadas por IA con la voz del fallecido o solo con texto es lo que ofrecen en diferentes grados empresas como HereAfter, StoryFile, Eternos.Life, Decembre Proyect o You, Only Virtual.

En algunos casos es la persona quien prepara todo para dejar activo este servicio tras su muerte, pero también es posible que sean sus seres queridos quienes creen el bot.

Industria digital de después de la muerte

Jiménez, especialista en cómo los medios digitales median la experiencia de duelo, resalta que "tenemos prejuicios con respecto a este tipo de herramientas y no es para menos si tenemos en cuenta que están siendo creadas principalmente por la creciente industria digital de después de la muerte", que busca objetivos "comerciales y económicos y no necesariamente terapéuticos".

Un reciente estudio de la Universidad de Cambridge analiza tres escenarios hipotéticos para mostrar las posibles consecuencias de un "diseño descuidado" de este tipo de tecnología y sin unas normas de seguridad.

La investigación, encabezada por Katarzyna Nowaczyk-Basińska, describe un escenario en el que el bot de una abuela hace a su nieta un recomendación publicitaria, y otro en el que un niño se angustia porque la réplica de la madre muerta comienza a generar respuestas confusas.

En el tercer caso un padre deja durante 20 años un avatar a sus hijos. Uno empieza a recibir una avalancha de mensajes no deseados y el otro acaba emocionalmente agotado de interactuar con él pero le atormenta el destino del chatbot.

Relación de dependencia

Los bots pueden ser diseñados desde el riesgo de hacer creer al doliente que las respuestas que obtiene son de verdad de su ser querido, un uso que podría crear desde una relación de dependencia hasta "el sufrimiento provocado por una segunda pérdida si desaparece, por ejemplo por problemas técnicos", advierte Jiménez.

Eternal You, un documental presentado este año en el Festival de Sundance (EEUU), siguió el inicio de los bots de duelo y a algunos de primeros usuarios, personas que "buscan consuelo con estas aplicaciones y que darían todo por poder hablar con su seres queridos fallecidos una vez más".

Así lo explican sus directores, Hans Block y Moritz Riesewieck, que también entrevistan a responsables de estas empresas y abordan el actual problema de lidiar con el duelo. "Hubo cosas que me asustaron y muchas cosas que no quería oír, que no estaba preparada para oír", señala una de las usuarias en el trailer.

Un bot -indica Jiménez- puede elaborar respuestas que no sean congruentes con los recuerdos que el usuario tenga del fallecido, lo que puede provocar frustración o dolor. También el sentimiento de una segunda pérdida "al constatar la falta de autenticidad emocional" que caracterizaba la relación con el fallecido o pueden alterar de alguna manera su memoria, "lo que puede conllevar desasosiego".

El canal de televisión surcoreano MBC hizo una serie de documentales sobre experiencias de realidad inmersiva con recreaciones virtuales para que una madre pudiera pasar unas horas con su hija de siete años fallecida o un hombre se reencontrara con su mujer muerta, ambos mostraron su agradecimiento por la experiencia.

Estas tanatotecnologías no solo transforman la experiencia del duelo "sino la propia concepción de mortalidad o incluso de resurrección", indica Jiménez, quien estima que la religiones tradicionales convivirán "con nuevas y crecientes maneras de comprender el mundo donde la inmortalidad digital es un elemento esencial".

Protección de derechos

Estamos -advierte- ante su nuevo desarrollo tecnológico, basado en IA, "de alto riesgo que debe ser regulado", pues implica desafíos socio-éticos muy complicados.

El abogado de Croma Legal y profesor de la UOC, Sergio de Juan-Creix, experto en derecho digital, detalla a EFE que en España los derechos al honor, imagen, intimidad y protección de datos se extinguen con la muerte, pero la tutela de la memoria de los fallecidos corresponde a sus herederos.

Aun en el caso de empresas radicadas fuera de la Unión Europea, el experto dice que si se dirigen a un público europeo, se aplicaría la normativa europea de IA o el Reglamento General de Protección de Datos.

En cuando a la protección de los datos usados para generar un bot cuando la persona ha muerto, el abogado indica que si lo hace su heredero para su propio uso, este tiene derecho, según la normativa española, aunque se podría generar un conflicto entre herederos si alguno no está de acuerdo.

Ante la posibilidad de que una persona prepare en vida su propio bot para sus herederos, la empresa tiene que tratar todos los datos conforme a la Ley Orgánica de Protección de Datos. Tras su fallecimiento y si los herederos no están de acuerdo, precisa De Juan-Creix, la citada norma española les capacita para reclamar a la empresa esos datos y pedir que los borre de sus bases.

stats