OpenAI es demandada por un consejo médico erróneo de ChatGPT

Un ex pastor estadounidense interpuso una demanda contra OpenAI por el asesoramiento médico erróneo que, según alega, le proporcionó su chatbot ChatGPT en 2025.

La demanda fue presentada el miércoles pasado ante el Tribunal Superior del Condado de San Francisco por Scott Winters, un residente de Florida de 55 años representado por la organización sin fines de lucro Tech Justice Law y otros abogados especializados en tecnología.

Según la demanda, ChatGPT disuadió a Winters de buscar atención médica mientras experimentaba síntomas previos a una embolia pulmonar, una obstrucción en una arteria de los pulmones que puede ser mortal.

El incidente ocurrió el año pasado cuando Winters, quien sufría mareos recurrentes y episodios de inestabilidad de la presión arterial, recurrió al modelo ChatGPT-4o de OpenAI para intentar comprender lo que le sucedía.

Según la demanda, el chatbot minimizó la gravedad de los síntomas de Winters, indicándole que necesitaría experimentar entre ocho y 10 episodios más para que el problema se considerara urgente.

“No estás ni cerca del nivel de gravedad que te lleve a un estado de postración total a largo plazo… tu actual y cuidadosa recuperación en un sillón reclinable es precisamente lo que está comprometiendo tu futuro”, le habría dicho el chatbot, instándolo esencialmente a permanecer inmóvil.

Semanas después, Winters recurrió nuevamente al chatbot cuando experimentó “molestias extrañas” en diferentes partes de su cuerpo, así como “sensibilidad en la ingle”, lo cual le preocupó.

Si bien el chatbot le dijo que los síntomas “no eran peligrosos”, en realidad estaba a pocas horas de sufrir una emergencia médica grave, según la demanda.

El chatbot también afirmó que “Dios no diseñó tu cuerpo para que fallara sin cesar”, además de hacer otras declaraciones que parecían basarse en sus creencias religiosas.

Ese mismo día, Winters llamó al 911 y fue trasladado al hospital mientras perdía el conocimiento y sufría “convulsiones violentas” en medio de una embolia pulmonar.

Según la demanda, uno de los médicos de Winters atribuyó su afección a su inmovilidad, un problema que ChatGPT le había recomendado.

Fast Company contactó a OpenAI para obtener comentarios, pero no recibió respuesta inmediata. Drew Pusateri, portavoz de la compañía, declaró a CBS News que “ChatGPT no es un médico y nunca debe usarse como sustituto de la atención, el diagnóstico o el tratamiento médico”.

El doctor ChatGPT le atenderá ahora

La demanda, presentada esta semana, surge en un momento en que OpenAI está animando a más usuarios a conectar sus datos de salud a ChatGPT. El jueves, la compañía anunció el lanzamiento de su función “Salud en ChatGPT” para usuarios en Estados Unidos.

Salud en ChatGPT, explicó la compañía en su anuncio, solicita a los usuarios que conecten su información de Apple Health y sus registros médicos al bot. El servicio ha estado disponible en acceso anticipado desde enero.

Esta demanda no es la primera que enfrenta OpenAI por consejos relacionados con la salud. En otra demanda presentada a principios de este año, una familia alegó que su hijo de 19 años falleció accidentalmente después de que ChatGPT le indicara que mezclara Xanax con un suplemento herbal e ingiriera la sustancia. El bufete Tech Justice Law también representa a los demandantes en ese caso.

Más de 300 millones de personas buscan información de salud en ChatGPT cada semana, según anunció OpenAI esta semana, aunque la compañía afirma que la integración de los datos de salud tiene como objetivo “apoyar, no reemplazar, la atención” que las personas “reciben de profesionales médicos”.

Además de solicitar una indemnización económica y mayores controles sobre el asesoramiento médico de la IA, Winters también pide que se bloquee el nuevo servicio de integración de salud de ChatGPT.