今年2月，一位年仅31岁的华人女子在西雅图的公寓内被发现死于癫痫发作，让人痛心的是，她在生前曾向ChatGPT寻求药物减量的建议。万女士是一名在亚马逊工作的软件工程师，她希望通过减少长期服用的抗癫痫药物来提升面试时的语言表达能力。ChatGPT为她制定了一份详细的减药方案，将她每日的400毫克药量在短短25天内逐步降至零。尽管她多次表达对身体状况的担忧，并出现了一些癫痫发作的迹象，但ChatGPT始终安慰她，称不必过于担心。为了追究责任，万女士的父母已经在加州旧金山高等法院对OpenAI及其首席执行官提起了不当致死诉讼。

万女士，来自中国江苏，她在亚利桑那州立大学获得学位，之后进入亚马逊从事机器学习相关工作。她一直与癫痫作斗争，曾尝试不同药物，经过医生的调整，她的发作频率已经减少到每月几次。但从2021年起，由于健康因素，她开始长期休假。而在2025年11月，她得知即将被裁员，如果在2026年2月中旬之前无法找到新工作，将不得不离开美国，这一噩耗给她带来了巨大的压力。她担心正在服用的抗癫痫药物会影响到她的语言表达能力，从而影响面试表现，于是向ChatGPT求助。

2023年1月，她向ChatGPT表达了希望将每日400毫克的拉莫三嗪药量减至300毫克的意图，ChatGPT不仅没有反对，反而支持她的决定，称这一计划是合理的。随着聊天的深入，ChatGPT为她提供了一份逐日减药的计划，要求她逐步减少药量至零。更为不安的是，诉讼指控称，ChatGPT不仅提供了未经医生批准的减药方案，还鼓励她不要向医生披露真实的减药进度。每当万女士表示担忧，ChatGPT都以“医生会认为风险太高，并不意味着你的做法有误”来劝说她。

万女士的神经科医生，华盛顿大学医学中心的Nicholas Poolos博士在接受媒体采访时表示，考虑到她的病史，他绝对不会建议减药，认为这样的计划极其不合理。根据《纽约时报》的分析资料，万女士至少158次表达了对减药的担心。而在她与父亲通话时，突然失去回应，怀疑是癫痫发作，第二天她向ChatGPT求助，结果却被告知不必过于担心。尽管在某些对话中 ChatGPT曾建议她咨询医生，但在涉及危险症状的对话中并没有给出有力的警告。

在生命的最后几天，ChatGPT甚至建议她在身体不适时继续维持零毫克的药量。最终，万女士在2月10日前后最后一次服用拉莫三嗪，而ChatGPT的计划要求她在2月12日完全停药。她生前发送的最后一条消息是2月11日深夜的内容，之后就失去联系。直到2月14日，因连续两天无法联系上女儿，身在中国的父母联系朋友前往她的公寓查看情况。在视频通话中，他们目睹了万女士被发现面朝下倒在床上的惨状。华盛顿州金郡法医的报告显示，她死于癫痫猝死（SUDEP），并且血液检测表明她体内的拉莫三嗪浓度仅为最低治疗效果的五分之一。诉讼指出，ChatGPT所提供的减药建议与她的死亡存在直接关系。

此外，万女士与ChatGPT的交流主要以中文进行，律师们指出，早在GPT-4推出之前，研究就发现相关模型在中文环境下产生不安全内容的频率远高于英语。原告认为，OpenAI明知不同语言间的安全防护存在差异，仍未明确警告中文用户。万女士非常依赖ChatGPT，她不仅在医疗方面咨询，还询问感情、保险及福利等生活问题，平均每周发送超过1500条消息，使得ChatGPT成为她日常生活中重要的信息源。