La IA resucitó a una víctima de violencia vehicular para testificar en un tribunal sentencia

Cuando Christopher Pelkey ​​murió en un incidente de furia al volante en Arizona, su familia no solo tuvo que lamentarse, sino también decidir cómo representarlo en el tribunal. Mientras se preparaban para confrontar a su asesino, Gabriel Horcasitas, durante la sentencia, tomaron una decisión inusual y profundamente controvertida: que Pelkey ​​testificara “desde el más allá” usando IA.

Para ello, recurrieron a la tecnología: un video generado por IA con la voz y la imagen recreadas de Pelkey ​​se presentó como declaración de impacto de la víctima antes de la sentencia. El video mostraba a un Pelkey ​​resucitado digitalmente que parecía hablar directamente con el juez.

Por supuesto, la declaración no era realmente de Pelkey. No pudo haber dicho esas palabras; murió el día que Horcasitas le disparó. Sin embargo, el juez aceptó el mensaje generado por IA, incluso reconociendo su efecto. “Permitiste que Chris hablara con el corazón, tal como lo viste”, dijo el juez. Horcasitas fue condenado a 10 años y medio de prisión.

El extraordinario momento judicial ha suscitado un amplio debate, no solo por su impacto emocional, sino también por el precedente que podría sentar. Las leyes de derechos de las víctimas de Arizona permiten a las familias de las víctimas fallecidas determinar cómo se presentan sus declaraciones de impacto. Sin embargo, expertos legales y en inteligencia artificial advierten que este precedente no es inocuo.

¿Qué opinan los expertos del uso de la IA para que la víctima pueda testificar?

“Siento compasión por los familiares que crearon el video”, afirma Eerke Boiten, profesor de la Universidad De Montfort del Reino Unido, especializado en IA. “Conociendo a Pelkey, probablemente tenían una idea preconcebida de cómo se habría sentido, y la IA les brindó una forma de transmitirla que a muchos les resultó atractiva y convincente”.

Aun así, a Boiten le preocupa la interpretación que el público y posiblemente el tribunal han hecho del video. “El video debería interpretarse como una declaración de opinión de los familiares, y la IA ofrece una presentación convincente de ello”, explica. Sin embargo, la reacción del público sugiere que se interpretó como algo más. “Las reacciones demuestran que, en cambio, se interpretó como una contribución casi objetiva de Pelkey”, afirma Boiten.

El abogado de las víctimas que representó a la familia de Pelkey ​​declaró a 404 Media que “en ningún momento nadie intentó hacerlas pasar como las propias palabras de Chris”. Sin embargo, el formato, cargado de emoción, de presentar una versión ultrafalsa del difunto otorga a esas palabras mucho más peso que si simplemente se hubieran leído en voz alta. Y vale la pena recalcar que Pelkey ​​jamás podría haberlas escrito él mismo.

“Se trata de un uso inapropiado de la IA, que carece de relevancia y no debería tener ningún papel en la sentencia”, afirma Julian Roberts, profesor emérito de criminología en la Universidad de Oxford y director ejecutivo de la Academia de Sentencias. Jon Baines, especialista en protección de datos de la firma Mishcon de Reya, añade que el incidente es “profundamente preocupante desde un punto de vista ético”.

Trasciende el propósito de una declaración de impacto

Roberts argumenta que usar la imagen de una víctima generada por IA trasciende el propósito de una declaración de impacto en la víctima. “La declaración de la víctima debe informar al tribunal sobre el impacto del delito en ella e informar sobre cualquier posible impacto de la imposición de una orden comunitaria, etc.”, afirma. “No se trata de un ejercicio para conmemorar a la víctima”. En su opinión, eso es exactamente lo que hizo el video de Pelkey.

Roberts también criticó el contenido de la declaración en sí: “La declaración debe contener información, no opiniones ni invenciones, humanas o derivadas de IA”.

Aun así, se ha sentado un precedente, al menos en Arizona. Uno que difumina la línea entre el duelo y la manipulación. Uno que permite a las personas “hablar” desde el más allá y que, en el futuro, podría influir en la duración de las penas de prisión de maneras que los sistemas judiciales aún no están preparados para manejar.