Por qué las ‘reanimaciones’ de los muertos con IA pueden no ser éticas

Christopher Pelkey ​​fue asesinado en un tiroteo en 2021. El 8 de mayo de 2025, en la audiencia de sentencia de su asesino, un video de Pelkey generado con Inteligencia Aritificial (IA) emitió una declaración de impacto en la víctima. El juez de primera instancia se mostró profundamente conmovido por esta actuación y dictó la pena máxima por homicidio involuntario.

Como parte de las ceremonias para conmemorar el aniversario 77 de la independencia de Israel el 30 de abril de 2025, las autoridades planeaban organizar un concierto con cuatro cantantes israelíes icónicos. Los cuatro habían fallecido años antes. El plan consistía en evocarlos mediante sonido y videos generados por IA. Se suponía que los fallecidos cantarían junto a Yardena Arazi, una artista aún viva. Finalmente, Arazi se retiró, supuestamente por el clima político, y el evento no se celebró.

En abril, la BBC creó una versión deepfake de la famosa escritora de misterio Agatha Christie para impartir un “curso magistral de escritura”. La Agatha falsa instruiría a aspirantes a autores de novelas de misterio e inspiraría su “viaje literario”.

El uso de IA para reanimar a los muertos con diversos fines está ganando terreno rápidamente. En los últimos años, hemos estado estudiando las implicaciones morales de la IA en el Centro de Ética Aplicada de la Universidad de Massachusetts, Boston, y consideramos que estas reanimaciones son moralmente problemáticas.

Antes de abordar los desafíos morales que plantea esta tecnología, es importante distinguir las reanimaciones con IA, o deepfakes, de los llamados bots de duelo. Los bots de duelo son chatbots entrenados con grandes cantidades de datos que los difuntos dejan tras de sí: publicaciones en redes sociales, mensajes de texto, correos electrónicos y videos. Estos chatbots imitan la forma en que se comunicaban los difuntos y su objetivo es facilitar la vida a las relaciones que sobreviven. Los deepfakes que analizamos aquí tienen otros objetivos: promover causas legales, políticas y educativas.

Dilemas morales

El primer dilema moral que plantea la tecnología tiene que ver con el consentimiento: ¿Habrían aceptado los fallecidos hacer lo que su imagen hace? ¿Habrían querido los cantantes israelíes fallecidos cantar en una ceremonia de independencia organizada por el gobierno actual del país? ¿Se sentiría Pelkey, la víctima de la furia al volante, cómodo con el guion que su familia escribió para que recitara su avatar? ¿Qué pensaría Christie de que su doble de IA impartiera esa clase?

Las respuestas a estas preguntas solo pueden deducirse circunstancialmente, al examinar las acciones de los fallecidos y las opiniones que expresaron en vida. Y cabe preguntarse si las respuestas realmente importan. Si los administradores de los patrimonios aceptan las reanimaciones, ¿no queda la cuestión resuelta? Al fin y al cabo, estos fideicomisarios son los representantes legales de los difuntos.

Pero dejando de lado la cuestión del consentimiento, queda una cuestión más fundamental.

¿Qué efectos tienen estas reanimaciones en el legado y la reputación de los muertos? ¿Acaso su reputación no depende, en cierta medida, del hecho de que los muertos ya no pueden aparecer? Morir puede tener un efecto beneficioso en la reputación de personas prominentes; fue bueno para John F. Kennedy y para el primer ministro israelí Yitzhak Rabin.

Pericles, el líder ateniense del siglo V a.C., lo comprendió bien. En su famoso discurso fúnebre, pronunciado al final del primer año de la Guerra del Peloponeso, afirma que una muerte noble puede elevar la reputación y borrar las pequeñas fechorías. Esto se debe a que los muertos son inalcanzables y su mística crece post mortem. “Incluso la virtud extrema difícilmente te hará merecedor de una reputación igual a la de los muertos”, insiste.

¿Las reanimaciones con IA devalúan la reputación de los muertos al obligarlos a reaparecer constantemente? ¿Acaso degradan y desestabilizan su reputación al obligarlos a comentar sobre eventos ocurridos mucho después de su fallecimiento?

Además, estas representaciones de IA pueden ser una herramienta poderosa para influir en el público con fines políticos o legales. Revivir a un cantante fallecido para legitimar un evento político y reanimar a una víctima fallecida para que ofrezca testimonio son actos destinados a influir en el juicio del público.

Una cosa es imitar a Churchill o Roosevelt durante un discurso político, citándolos o incluso intentando imitar su voz. Otra cosa es que “ellos” hablen contigo. El potencial de aprovechar la nostalgia se ve potenciado por esta tecnología. Imaginen, por ejemplo, lo que habrían hecho los soviéticos, que literalmente veneraban el cadáver de Lenin, con una falsificación profunda de su antiguo icono.

Buenas intenciones

Se podría argumentar que, dado que estas reanimaciones son singularmente atractivas, pueden utilizarse con fines virtuosos. Imaginemos a un Martin Luther King Jr. reanimado dirigiéndose a Estados Unidos, actualmente un país polarizado y dividido, instando a la moderación y la unidad. ¿No sería magnífico? ¿O qué tal un Mordechai Anielewicz reanimado, el comandante del levantamiento del gueto de Varsovia, hablando en el juicio de un negacionista del Holocausto como David Irving?

Pero ¿sabemos qué habría pensado Martin Luther King sobre nuestras actuales divisiones políticas? ¿Sabemos qué habría pensado Anielewicz sobre las restricciones a la expresión perniciosa? ¿Acaso hacer campaña valientemente por los derechos civiles significa que deberíamos recurrir al fantasma digital de King para que se pronuncie sobre el impacto del populismo? ¿Acaso luchar valientemente contra los nazis significa que deberíamos rescatar la sombra de la IA de un viejo héroe para que se pronuncie sobre la libertad de expresión en la era digital?

Incluso si los proyectos políticos a los que servían estos avatares de IA eran coherentes con las opiniones de los fallecidos, el problema de la manipulación —del uso del poder psicológico de los deepfakes para apelar a las emociones— persiste.

¿Y qué tal si reclutamos a la IA Agatha Christie para impartir una clase de escritura? Los deepfakes podrían tener usos beneficiosos en entornos educativos. La imagen de Christie podría entusiasmar a los estudiantes con la escritura. Un falso Aristóteles podría mejorar las posibilidades de que los estudiantes se interesen por su austera Ética a Nicómaco. Una imagen de Einstein podría ayudar a quienes desean estudiar física a comprender la relatividad general.

Pero producir estas falsificaciones conlleva una gran responsabilidad. Después de todo, dado lo atractivas que pueden ser, es posible que las interacciones con estas representaciones sean lo único a lo que los estudiantes presten atención, en lugar de servir como puerta de entrada para profundizar en el tema.

Vivir la vida sin IA

En un poema escrito en memoria de W. B. Yeats, W. H. Auden nos cuenta que, tras la muerte del poeta, Yeats se convirtió en su admirador. Su memoria quedó esparcida por cien ciudades y su obra, sujeta a infinitas interpretaciones: “Las palabras de un muerto se modifican en las entrañas de los vivos”.

Los muertos perduran en las múltiples maneras en que reinterpretamos sus palabras y obras. Auden le hizo eso a Yeats, y nosotros también le hacemos eso. Así es como la gente se mantiene en contacto con quienes ya no están. En definitiva, creemos que usar la tecnología para revivirlos es una falta de respeto hacia ellos y, quizás más importante, una falta de respeto hacia nosotros mismos: hacia nuestra capacidad de abstraer, pensar e imaginar.

Nir Eisikovits es profesor de filosofía y director del Centro de Ética Aplicada en UMass Boston.

Daniel J. Feldman es investigador principal en el Centro de Ética Aplicada de la UMass Boston.

Este artículo fue publicado originalmente en The Conversation.