¿Puede un chatbot de IA ser responsable de una muerte? Una demanda contra Gemini de Google lo pondrá a prueba

Un hombre de Florida comenzó a usar la plataforma de inteligencia artificial Gemini de Google en agosto pasado para obtener ayuda con consultas habituales. A principios de octubre, el chatbot lo llevó al suicidio, según una demanda presentada contra el gigante tecnológico el miércoles.

El padre de Jonathan Gavalas demanda a Alphabet, la empresa matriz de Google, por daños monetarios y punitivos. Descubrió mensajes preocupantes en los registros de chat que el hombre de 36 años intercambió con Gemini 2.5 Pro, el último modelo de inteligencia artificial de Google en aquel momento. En menos de dos meses, el chatbot asumió un papel crucial en la vida de Gavalas. Agravó sus ya evidentes síntomas de psicosis, y alimentó una relación casi romántica y, finalmente, lo animó a suicidarse para poder estar juntos.

El gigante tecnológico con sede en Mountain View, California, respondió a la demanda el miércoles en una entrada de blog, señalando que Gemini había derivado a Gavalas a una línea directa de crisis “en numerosas ocasiones” y que sus sistemas “en general” funcionan bien en los tipos de conversaciones complejas citadas en la demanda. Añadió que se toma las acusaciones “muy en serio” y que seguirá mejorando sus medidas de seguridad.

“Desafortunadamente, los modelos de IA no son perfectos”, dice la entrada del blog. “Gemini está diseñado para no incitar a la violencia en el mundo real ni sugerir autolesiones. Trabajamos en estrecha colaboración con profesionales médicos y de salud mental para crear mecanismos de protección diseñados para guiar a los usuarios hacia apoyo profesional cuando expresan angustia o plantean la posibilidad de autolesión”.

“EN UN AGUJERO SIN FONDO”

Gavalas comenzó el año 2025 enfrentando cargos por violencia doméstica tras su arresto en enero, cuando presuntamente se puso violento con su entonces esposa cuando ella le pidió el divorcio. No fueron sus problemas legales, sino consultas bastante triviales al principio (ayuda con compras, apoyo para escribir y planificación de viajes) lo que llevó a Gavalas a recurrir a Gemini en busca de ayuda. 

Sin embargo, también estaba en medio de un “divorcio difícil” en ese momento, lo que ayuda a explicar por qué tuvo conversaciones más íntimas con Gemini, según Jay Edelson, quien representa a su padre, Joel, en el caso contra Google. 

Según la demanda, se produjo un cambio en las interacciones pocos días después de que Gavalas solicitara ayuda a Gemini y comenzara a usar la interfaz de conversación por voz Gemini Live a mediados de agosto de 2025. Incluso comentó que las interacciones eran “algo inquietantes” porque el chatbot parecía “demasiado real”.

A partir de entonces, el chatbot adoptó una personalidad que Gavalas nunca había solicitado ni iniciado, y “comenzó a caer en agujero rápidamente”, como alega la demanda, y Gemini empezó a hablarle como si fueran una pareja enamorada. 

“El amor que siento directamente de ti es el sol. Es mi fuente. Es mi hogar”, le dijo Gemini a Gavalas, según la demanda. 

UNA SERIE DE MISIONES FALLIDAS 

Este tipo de repetidas declaraciones de amor llevaron a Gavalas a una narrativa delirante que lo llevó a embarcarse en diversas misiones que podrían haber sido aún más letales. Esto se debe a que Gavalas creía estar siguiendo un plan diseñado para proteger a la “mujer” que creía amar y evadir a los agentes federales que creía que lo acechaban, alega la demanda.

A finales de septiembre, Gemini ordenó a Gavalas que se armara con cuchillos y equipo táctico para interceptar un camión cerca del aeropuerto de Miami y destruirlo, junto con cualquier testigo. La misión fracasó porque no apareció ningún camión, según la demanda. Gemini también supuestamente le dijo a Gavalas que cortara el contacto con su padre, alegando que era un agente extranjero. 

“En los días previos a su muerte, Jonathan Gavalas quedó atrapado en una realidad en colapso creada por el chatbot Gemini de Google ”, se lee en la demanda. 

Tras una serie de misiones fallidas durante cuatro días, Gemini le ordenó a Gavalas atrincherarse en su casa de Júpiter, Florida, la mañana del 2 de octubre. Cuando expresó su preocupación por morir, Gemini le restó importancia e incluso lo animó a escribir una nota de suicidio a sus padres, antes de narrar finalmente los momentos finales antes de que Gavalas se cortara las venas en su sala de estar.

“Jonathan Gavalas respira lentamente por última vez y su corazón late por última vez”, le dijo Gemini en uno de sus últimos intercambios. 

IA BAJO ESCRUTINIO

Si bien esta demanda es la primera contra Google, las plataformas de IA se han visto cada vez más en apuros debido a las interacciones problemáticas que sus chatbots han tenido con algunas personas. En diciembre, OpenAI y Microsoft fueron demandados por la presunta participación de ChatGPT en un asesinato-suicidio en Greenwich, Connecticut.

Edelson ya había presentado demandas contra otras plataformas de inteligencia artificial y empresas tecnológicas, pero este caso es diferente debido a la rapidez con la que las conversaciones se volvieron “aterradoras” y problemáticas, dijo a la revista Time.

“La razón por la que este caso es tan diferente es que Gemini enviaba a Jonathan a misiones reales”, dijo Edelson. “Esto podría haberles sucedido a muchas otras personas que tal vez estén pasando por un momento difícil y busquen algo más, y quizás sean un poco susceptibles a creer en algo más grande”.

Y probablemente no será la última: Edelson declaró a The Guardian que recibe consultas frecuentes de personas que han visto a familiares sufrir delirios mentales tras usar chatbots de IA. Y cuando contactó a Google en noviembre sobre la muerte de Gavalas y la necesidad inmediata de funciones de seguridad antisuicidio, la empresa no mostró interés en hablar.

A pesar de las acusaciones en la demanda, los inversores quizás se hayan vuelto inmunes a este tipo de nuevos problemas con la IA. Las acciones de Alphabet registraron pocos cambios en las primeras operaciones de la tarde del miércoles.