Algunas empresas ya se ofrecen a “resucitar a la abuela” ofreciendo a los usuarios la posibilidad de cargar las conversaciones y la huella digital de sus familiares fallecidos en un chatbot… y esto puede ser terrorífico.
Los chatbots de inteligencia artificial (IA) que imitan el lenguaje y la personalidad de personas fallecidas corren el riesgo de “embrujar digitalmente” a los vivos, según advierte un investigador.
Estos servicios podrían dirigirse a padres o hijos con enfermedades terminales, o a personas aún sanas que deseen catalogar su vida y dejar un legado digital para las futuras generaciones.
Pero los investigadores de la Universidad de Cambridge afirman que los chatbots de inteligencia artificial -conocidos como deadbots- son una empresa de “alto riesgo” que podría causar a los usuarios un daño psicológico duradero e irrespetar fundamentalmente los derechos de los fallecidos.
O regulamos o el futuro será aterrador lleno de muertos resucitados por IA
El Dr. Tomasz Hollanek, investigador de IA del Centro Leverhulme, declaró: “Es vital que los servicios digitales de vida después de la muerte tengan en cuenta los derechos y el consentimiento no solo de quienes recrean, sino también de quienes tendrán que interactuar con las simulaciones”.
Estos servicios corren el riesgo de causar una enorme angustia a las personas si se ven sometidas a persecuciones digitales no deseadas por parte de recreaciones de IA alarmantemente precisas de las personas que han perdido.
El estudio, publicado en la revista Philosophy and Technology, subraya la posibilidad de que las empresas utilicen robots muertos para anunciar subrepticiamente productos a los usuarios a la manera de un ser querido fallecido, o angustiar a los niños insistiendo en que un padre muerto sigue “contigo”.
Los investigadores afirman que cuando los vivos se registran para ser recreados virtualmente tras su muerte, los chatbots resultantes podrían ser utilizados por las empresas para enviar spam a los familiares y amigos supervivientes con notificaciones no solicitadas, recordatorios y actualizaciones sobre los servicios que prestan, algo así como ser “acosados digitalmente por los muertos”.
Según los autores del estudio, incluso quienes se sienten reconfortados por un deadbot pueden acabar agotados por las interacciones diarias, que se convierten en una “carga emocional abrumadora”, aunque también pueden verse impotentes para suspender una simulación de IA si su ser querido, ya fallecido, firmó un largo contrato con un servicio digital de vida después de la muerte.
En palabras de la Dra. Katarzyna Nowaczyk-Basinska, coautora del estudio: “Los rápidos avances de la IA generativa permiten que casi cualquier persona con acceso a Internet y algunos conocimientos básicos pueda revivir a un ser querido fallecido”.
Este ámbito de la IA es un campo de minas ético
Es importante dar prioridad a la dignidad del difunto y asegurarse de que no se vea invadida, por ejemplo, por motivos económicos de los servicios digitales de vida después de la muerte.
Al mismo tiempo, una persona puede dejar una simulación de IA como regalo de despedida a unos seres queridos que no están preparados para procesar su duelo de esta manera.
Por ese motivo, los derechos tanto de los donantes de datos como de quienes interactúan con los servicios de vida después de la muerte deben protegerse por igual.
Los investigadores afirman que ya existen plataformas que ofrecen recrear a los muertos con IA por un módico precio, como Project December, que empezó aprovechando modelos de GPT antes de desarrollar sus propios sistemas, y aplicaciones como HereAfter.
Según el estudio, en China también han empezado a surgir servicios similares. Según el Dr. Hollanek, las personas “podrían desarrollar fuertes vínculos emocionales con estas simulaciones, lo que las haría especialmente vulnerables a la manipulación”.
En su opinión, “debería estudiarse la manera de jubilar a los robots muertos de forma digna”, lo que “podría significar una forma de funeral digital”.
“Recomendamos diseñar protocolos que impidan que los robots muertos se utilicen de forma irrespetuosa, por ejemplo para hacer publicidad o tener una presencia activa en las redes sociales”, añadió.
Los investigadores recomiendan restringir la edad de los robots muertos y reclaman una “transparencia significativa” que garantice que los usuarios sean conscientes de que están interactuando con una IA.
También piden a los equipos de diseño que den prioridad a los protocolos de exclusión que permitan a los usuarios poner fin a su relación con los robots muertos de forma que se cierre emocionalmente.
