Los peligros de «Resucitar» familiares con Inteligencia Artificial

En un mundo cada vez más dominado por la tecnología, las innovaciones en inteligencia artificial (IA) han permitido avances sorprendentes, pero también han abierto la puerta a preocupaciones profundas y complejas. Un reciente estudio de la Universidad de Cambridge ha puesto de manifiesto los peligros asociados con la creación de «deadbots», programas de IA diseñados para imitar la voz y recrear digitalmente a personas fallecidas. Publicado en la revista Philosophy and Technology, el estudio del Centro Leverhulme para el Futuro de la Inteligencia subraya la necesidad urgente de establecer protocolos de seguridad y consideraciones éticas rigurosas para proteger a quienes están en proceso de duelo.

Un impacto Psicológico profundo

La capacidad de la inteligencia artificial para recrear digitalmente a seres queridos fallecidos puede parecer un consuelo para aquellos que enfrentan la pérdida, pero los investigadores de Cambridge advierten que esta práctica podría tener consecuencias psicológicas graves. Las apariciones digitales no deseadas pueden causar una gran aflicción a quienes están en duelo, perturbando su proceso de recuperación emocional. Según el estudio, la interacción con una simulación digital de un ser querido fallecido puede impedir el proceso natural de duelo, provocando una dependencia malsana de estas recreaciones.

Los coautores del estudio enfatizan la importancia de considerar los derechos y el consentimiento tanto de las personas recreadas digitalmente como de aquellos que interactúan con estas simulaciones. La falta de consentimiento de la persona fallecida para ser «resucitada» digitalmente plantea cuestiones éticas significativas. Además, el impacto en la salud mental de los familiares y amigos que interactúan con estas recreaciones puede ser devastador, ya que enfrentan una realidad distorsionada que puede prolongar su sufrimiento.

Dilemas éticos en la era digital

Más allá de los problemas psicológicos, los «deadbots» plantean serios dilemas éticos. La creación y uso de estas simulaciones deben abordar adecuadamente la dignidad del fallecido y evitar la explotación comercial de sus recreaciones. Los servicios que ofrecen la «resurrección» digital de los muertos deben ser transparentes sobre el uso de esta tecnología y las implicaciones que conlleva.

El estudio de Cambridge recomienda medidas de seguridad estrictas y mayor transparencia en el uso de esta tecnología. La accesibilidad de estas tecnologías aumenta la probabilidad de que los familiares sean bombardeados con mensajes no solicitados, lo que puede agravar su dolor. Además, existe el riesgo de fraudes, donde ciberdelincuentes podrían usar la voz de un ser querido para estafar. La manipulación de voces digitales podría ser utilizada para engañar a los familiares, llevándolos a realizar acciones basadas en información falsa proporcionada por los delincuentes.

Casos reales y debates éticos

Casos recientes han ilustrado tanto las aplicaciones como las preocupaciones de esta tecnología. En 2021, Joshua Barbeau utilizó inteligencia artificial para hablar con su prometida fallecida, generando un intenso debate sobre los límites éticos y emocionales de esta práctica. Barbeau, quien perdió a su prometida Jessica en 2012, recurrió a un programa de IA para crear una simulación de conversación con ella. Este caso particular atrajo una gran atención mediática y suscitó preguntas sobre si es ético utilizar la tecnología de esta manera.

Los expertos de Cambridge llaman a una regulación clara y específica para el uso de «deadbots». Hasta ahora, la falta de directrices deja a los usuarios en una situación vulnerable. La capacidad de recrear digitalmente a una persona fallecida no debe ignorar las profundas implicaciones humanas. Las innovaciones en inteligencia artificial deben ser manejadas con extrema precaución, respetando la dignidad y el consentimiento de todos los involucrados.

La necesidad de un código ético

Las compañías tecnológicas deben adherirse a un código ético robusto y fomentar una discusión pública sobre el uso de esta tecnología. La regulación es esencial para asegurar que los «deadbots» se utilicen de manera responsable y ética. Los investigadores recomiendan que se implementen políticas claras sobre el consentimiento, la privacidad y la dignidad de las personas recreadas digitalmente.

El estudio también sugiere que los desarrolladores de estas tecnologías deben trabajar estrechamente con psicólogos y expertos en ética para comprender mejor las implicaciones emocionales y morales de sus creaciones. La colaboración interdisciplinaria puede ayudar a establecer mejores prácticas y normas para el uso de inteligencia artificial en la recreación de personas fallecidas.

La responsabilidad de la innovación

Un futuro con precauciones y límites claros

La capacidad de la inteligencia artificial para «resucitar» digitalmente a los seres queridos fallecidos presenta tanto oportunidades como riesgos. Si bien puede ofrecer consuelo a algunas personas, también puede causar un gran dolor y complicar el proceso de duelo para otras. El estudio de la Universidad de Cambridge es un llamado urgente a la precaución y la responsabilidad en el uso de esta tecnología.

Es crucial que se desarrollen y apliquen protocolos de seguridad estrictos para proteger a los individuos de las apariciones digitales no deseadas de sus seres queridos fallecidos. Además, debe haber una regulación clara y específica para garantizar que las compañías tecnológicas respeten la dignidad y el consentimiento de todos los involucrados.

Las innovaciones en inteligencia artificial deben ser manejadas con extrema precaución, considerando siempre las profundas implicaciones humanas. La recreación digital de personas fallecidas no debe convertirse en una herramienta de explotación comercial ni en una fuente de dolor adicional para quienes están en duelo. En su lugar, debe abordarse con respeto, ética y un compromiso firme con la protección de los derechos y el bienestar emocional de todos los afectados.

La discusión pública y la colaboración interdisciplinaria son esenciales para navegar las complejidades de esta tecnología emergente. Solo a través de un enfoque cuidadoso y considerado se puede garantizar que el uso de inteligencia artificial en la recreación de personas fallecidas sea seguro, ético y beneficioso para la sociedad.