Alimenta a un “bot de duelo” con fotos e información sobre tu ser querido fallecido, y este creará un fantasma generativo.
Cuando el investigador en ciencias de la información, Jack Manning, perdió a su hermana hace 10 años, buscó una forma de hacer permanente su memoria. Para su familia, un fantasma generativo de su imagen fue la respuesta.
“Nos tomó años de ventas de pasteles y carreras de 5K recaudar dinero para honrar su memoria de una manera que fuera significativa para nosotros. Pudimos ver cuánto esfuerzo se requiere para crear un memorial que sea impactante”, dijo a CBS News. “Pensé, seguramente hay una manera en que la tecnología puede ayudarnos.”
Varias empresas ofrecen estos servicios, como Séance AI, You, Only Virtual y re;memory.
“Al permitirte interactuar con un avatar digital realista de tu ser querido, puedes encontrar consuelo al expresar tu amor y perdón, creando un puente hacia los momentos apreciados que atesoras,” Re;memory dice en su sitio web. La herramienta “te permite ver y escuchar a tus padres tal como eran en sus fotos queridas, en lugar de solo imaginarlos.”
En un estudio de la Universidad de Colorado, los investigadores encontraron que los participantes que probaron bots de duelo quedaron asombrados por lo bien que podían emular a su ser querido perdido.
@matlockcbs Never let them know your next…OH NO MATTY! 😱 Matlock sneakpeek ai grief mom
Related: Google, Character.AI to Settle Wrongful Death Suit After Chatbot Led to Teen Suicide
Hay una diferencia entre un bot de duelo y un bot de muerte. El primero recrea la voz y la forma de hablar de un ser querido como una forma de conexión. Un bot de muerte puede simplemente reproducir declaraciones grabadas por un ser querido.
“Puedes obtener una representación razonable, aunque ligera, de un ser querido con una sola instrucción en una cuenta gratuita de ChatGPT,” dijo el investigador Jed Brubaker. “De la misma manera que podrías pedirle que hable como Shakespeare, puedes decirle ‘Háblame como mi abuelo — aquí hay algunos detalles sobre cómo actuaba.'”
Mientras que los bots de duelo/fantasmas generativos “son capaces de decir cosas que un ser querido podría no haber dicho. Los fantasmas son modelos de IA que pueden hablar por alguien, tal vez respondiendo una pregunta que no respondieron cuando estaban vivos,” Manning explicó.
Estas compañías de bots de duelo cobran costos mensuales alrededor de $20 o $25 para que los usuarios creen e interactúen con los bots.
Aunque los bots pueden traer algo de consuelo a los vivos, hay algunas éticas cuestionables involucradas. La naturaleza de algunas de estas empresas explota el duelo, apuntó el autor del Blog de Derechos Humanos de la Universidad de Alabama señaló.
También plantea preguntas sobre el daño póstumo y la dignidad. De alguna manera, estos programas te permiten alterar a los muertos y hacerlos lo que quieres que sean. Y una persona puede no querer ser replicada por sus seres queridos después de su muerte.
También pueden alterar el proceso de duelo. En algún momento del proceso de duelo, los dolientes deben aceptar la ausencia de su ser querido. Si constantemente recurren a estos bots para llenar un vacío y permanecer en un estado de negación, puede prolongar el período de duelo.
El investigador Kwan Yiu Chang argumenta que estas empresas deben priorizar medidas contra la adicción. De lo contrario, causa demasiada disrupción al doliente vulnerable.
Chang escribió en el Journal of Responsible Technology, “La no adicción insiste en la priorización del bienestar del usuario y reconoce que el uso del bot de duelo es transitorio. Debe haber medidas de diseño que prevengan la adicción, como tiempos de espera y recordatorios consistentes de la naturaleza generada por IA del bot de duelo… La no manipulación requiere que los sistemas de IA no exploten a los usuarios a través de características de diseño que influyan en el comportamiento de manera oculta o coercitiva.”
Así que si eliges usar un bot de duelo, quizás hazlo con precaución.
Read Next: Parents Sue AI Company After Explicit Conversations With Bot Led To Daughter’s Death
