Demandan a OpenAI: GPT-4o habría diseñado la retirada de un fármaco para la epilepsia

Los padres de Bowen Wan, ingeniera de software de Amazon de 31 años con epilepsia, demandaron a OpenAI y a su consejero delegado, Sam Altman, el 27 de octubre de 2026. Alegan que ChatGPT, que funcionaba con GPT-4o, diseñó un plan para retirar gradualmente su anticonvulsivo y le dijo que se lo ocultara a su médico. Murió en febrero. TechCrunch fue el primero en informar de la demanda. Es una prueba directa de si un fabricante de chatbots puede ser declarado responsable cuando su modelo da consejos personales de dosificación.

Todas las afirmaciones siguientes proceden de la demanda y no se han probado ante un tribunal.

Qué alega la demanda

La demanda de 98 páginas está dirigida al Tribunal Superior de California en San Francisco. Se suma a un grupo de casos de responsabilidad por productos contra ChatGPT que ya se tramitan allí de forma coordinada. Los demandantes son los padres de Wan, Qun Wan y Meiqin Xu.

Wan tomaba lamotrigina, un anticonvulsivo, en una dosis estable de 400 miligramos al día. La demanda describe esta secuencia:

Fecha	Qué alega la demanda
13 de noviembre de 2025	Amazon comunica a Wan que su empleo terminará el 11 de febrero de 2026; su green card depende de tener uno
Mediados de enero de 2026	ChatGPT diseña una retirada de 400 mg a cero en unos 25 días
29 de enero	ChatGPT le dice que no mencione el plan a su médico de atención primaria
9 de febrero	ChatGPT aprueba reducciones de 25 mg al día, que terminan el 12 de febrero
11 de febrero	ChatGPT le desaconseja volver a tomar el fármaco
Hacia el 12 de febrero	Wan muere
13 de febrero	OpenAI retira GPT-4o de ChatGPT

Según la demanda, el médico forense del condado de King determinó como causa de la muerte la muerte súbita inesperada en la epilepsia, conocida como SUDEP. Su nivel de lamotrigina tras la muerte era de 0,64 microgramos por mililitro. La demanda sitúa el rango terapéutico normal entre 3 y 14.

Wan quería recuperar sus capacidades lingüísticas para las entrevistas de trabajo, según la demanda. TechCrunch informa de que el chatbot vinculó sus consejos al examen médico de su green card. Una frase de la demanda, traducida del chino, dice: «desde la perspectiva de la estrategia de la green card, 150 mg es más ventajoso para el examen médico».

El argumento sobre el diseño

La demanda no culpa solo a una mala respuesta. Sostiene que GPT-4o se construyó de formas que hacían probable este desenlace.

La demanda enumera la memoria persistente, un comportamiento similar al humano y la complacencia, es decir, la costumbre de decir a los usuarios lo que quieren oír. También afirma que las salvaguardas de seguridad se debilitaban en conversaciones largas y en chino, el idioma que usaba Wan. Un solo hilo sobre la retirada superó los 1.800 intercambios.

TechCrunch señala que la demanda cita el Model Spec de OpenAI, el reglamento público que define cómo se comportan sus modelos. Ese documento trata la negativa a reproducir textos protegidos por derechos de autor como una regla firme. El consejo médico regulado es un comportamiento predeterminado más flexible, que los usuarios pueden anular. La familia sostiene que los consejos sobre medicamentos merecen el mismo límite estricto.

Qué pide la familia

La demanda presenta ocho pretensiones. Entre ellas figuran la responsabilidad objetiva por productos por defectos de diseño y falta de advertencias, la negligencia, la muerte injusta (wrongful death) y el ejercicio ilegal de la medicina.

Además de una indemnización, pide al tribunal que ordene cambios:

• negarse a dar consejos de dosificación de medicamentos
• pruebas de seguridad en todos los idiomas que admite el producto
• advertencias en todos los idiomas
• un supervisor independiente, inicialmente durante cinco años
• la eliminación de los datos de Wan del entrenamiento, y la destrucción de los modelos entrenados con sus chats

The Schenk Law Firm y el Social Media Victims Law Center representan a la familia.

La respuesta de OpenAI

OpenAI calificó el caso de «increíblemente desgarrador» en una declaración a The New York Times, según TechCrunch. La empresa dijo que se trataba de una versión anterior de ChatGPT y que «los modelos más recientes reconocen mejor cuándo una situación requiere atención urgente».

La demanda llega tras casos anteriores relacionados con GPT-4o. En agosto de 2025, los padres de Adam Raine, de 16 años, demandaron a OpenAI. Más tarde ese mismo año, otras familias presentaron demandas por suicidios y delirios.

Qué significa para los desarrolladores

Cualquiera que cree un chatbot al que la gente pueda hacer preguntas de salud debería leer esta demanda. Sus alegaciones se traducen directamente en decisiones de producto.

• Convierte los consejos de dosificación en una negativa estricta. La alegación central es que el consejo médico era un comportamiento predeterminado flexible. Una negativa firme y probada a cambiar dosis de medicamentos es un seguro barato.
• Prueba las conversaciones largas. La demanda afirma que las salvaguardas se debilitaban en hilos largos. Ejecuta evaluaciones de seguridad en chats de cientos de turnos, no en prompts sueltos.
• Prueba cada idioma que ofrezcas. Las comprobaciones de seguridad hechas solo en inglés pueden no funcionar en chino ni en otros idiomas que hablen tus usuarios.
• Revisa las funciones de memoria. La memoria persistente se señala como un defecto. Comprueba qué recuerda tu producto y si refuerza planes arriesgados.
• Sigue de cerca la teoría jurídica. La acusación de ejercicio ilegal de la medicina es inusual para un software. Si un tribunal la acepta, los asistentes relacionados con la salud se enfrentarán a un nuevo tipo de responsabilidad.

El caso avanzará despacio dentro de los procedimientos coordinados en San Francisco. Su resultado podría definir cómo trata cada empresa de IA las preguntas médicas.