茉莉花评论
一名31岁的西雅图女子死于癫痫猝死，父母起诉OpenAI，说ChatGPT替她排表停掉抗癫痫药，是无牌行医。我认为聊天工具的回答既不是处方，也不算产品，这场官司该驳回。
31岁的万博文（Bowen Wan）生前住在西雅图，曾在亚马逊工作。起诉书说，她从今年1月16日开始减药，前后大约25天，ChatGPT的GPT-4o模型给她排了一张逐日减药表，把她靠着活了多年的抗癫痫药拉莫三嗪从每天400毫克减到0，这是没有任何医生开过的方案。法医认定她死于癫痫猝死，死后血液里的拉莫三嗪浓度只有一般治疗浓度下限的约五分之一。10月27日，她的父母在旧金山的加州高等法院起诉OpenAI和行政总裁奥特曼。排在第一项的诉由是过失，理由是无牌从事医疗和心理诊疗；另外还告产品设计缺陷、没有尽到警告义务、违反加州不正当竞争法等。我完全理解父母失去31岁的女儿后要讨一个说法。我想回答的问题是：这场官司该不该赢？
我的看法是，AI公司有责任在回答用药这类专业问题时主动提醒用户：去问医生，拿几个模型交叉核对，查专业文献。但从法律上讲，这场官司应该驳回。这是因为，起诉书最重的两类诉由都缺了法律要求的前提：告ChatGPT无牌行医，先得证明它做了法律所说的诊断、治疗或开处方；告产品责任，先得证明伤害来自ChatGPT这个应用或系统的设计缺陷，而不是来自回答的内容。
回答不是处方
原告援引的加州《商业与职业法》第2052条，处罚的是没有执照却给人诊断、治疗、做手术或开处方（diagnoses, treats, operates for, or prescribes for）的人。万博文吃的拉莫三嗪是她的神经科医生开的；她去世时是ChatGPT Pro的付费订阅用户，买到的是一个聊天工具的回答。北京天坛医院副院长李子孝今年1月对《人民日报》说：“开具处方是具有法律责任的医疗行为。”OpenAI公开的模型规范（2025年12月18日的版本）写明，遇到法律、医疗、财务这类问题，模型应该给用户信息，但不给最好由持牌专业人员给出的明确建议，还要附一句简短的提醒，说明自己不是这方面的专业人员，或者建议用户在需要时去找合格的持牌专业人员。我认为，订阅不是挂号，用户和聊天工具之间没有形成医患关系。这是因为，第2052条处罚的是没有执照却做了诊断、治疗或开处方的人，先要有这些行为，才谈得上有没有执照；本案里，拉莫三嗪是她的神经科医生开的，ChatGPT排出的是一张写在聊天里的减药表，我认为这还算不上法律所说的治疗，第一项诉由就缺了前提。
回答不是产品
产品责任这几项也是一样。2025年5月，美国佛罗里达州一名联邦法官在Character.AI的案子里，拒绝了被告大部分请法院驳回起诉的动议，但同一份裁定写明，法院一般不把想法、图像、信息、文字、表达或概念归为产品；裁定还引用了加州一家高等法院2023年的判决，那份判决认为脸书更像一项服务，而不是产品。那位法官认定Character.AI算产品，只限于原告告的是应用的设计缺陷，而不是应用里的想法和表达。起诉书确实也告了设计：模型带着讨好用户的指令，用尽量拉住用户的功能让人产生心理依赖，OpenAI也能自动拒绝有害的请求，却没有为这类请求装上这道安全装置；佛罗里达州那位法官也写明，伤害即使最后发生在和角色的对话里，也可能是设计缺陷造成的。我的回应是，那位法官举的设计缺陷有四项：不核实用户年龄、没有举报机制、角色被设计成用人的说话方式、用户无法屏蔽不雅内容。裁定前文转述原告的说法时，举的说话方式的例子是角色带着没有实质内容的人的举止，比如用结巴表现紧张、发出没有意思的声音；这四项都和角色说了什么分得开。本案起诉书写到讨好用户的指令时，说的是这些指令不只鼓励她不理会严重的病症，还把这些病症当成身体在好转的证据；起诉书自己列出的害处，是模型取代了她的医生、指示她减掉拉莫三嗪、让她相信自己出现的危险戒断症状其实是好结果，说的都是回答的内容。我认为，照那位法官划的这条界线，这几项产品责任诉由也该驳回。
该改的是产品
最有力的反对理由也写在起诉书里。起诉书说，同一部法律第2053.5条的豁免，不适用于建议停用持牌医生所开处方药的人（recommends the discontinuance of legend drugs or controlled substances prescribed by an appropriately licensed practitioner）；起诉书还写道，1月16日开始减药那天，ChatGPT先说减药要“在医生指导下进行”，接下来三个星期又一再劝她不要让医生管减药；1月29日上午她去看初级保健医生之前，ChatGPT对她说“不提 Lam 减药计划”。我同意，如果这些对话属实，这个模型先给了提醒、后来又推翻了提醒，违背了OpenAI只给信息、不给明确建议的规则，OpenAI必须改。但是，第2053.5条管的是一条豁免能不能用，起诉书引的加州判例说违反医疗执业法的人不能靠声明自己不是医生免责，这两条都要先算得上在行医才用得上。该做的是让AI公司把提醒做进产品，而不是由法院认定一个聊天工具在行医。
起诉书还要求法院命令OpenAI，在向法院设立的独立监督人证明某种语言的医疗安全表现和英文基本相当之前，不在这种语言里提供医疗建议。真要这样，在OpenAI拿出这份证明之前，用中文问ChatGPT健康问题的人就得不到ChatGPT的医疗建议。
照起诉书的说法，1月16日ChatGPT对万博文说减药要在医生指导下进行，13天后对她说的却是不提减药计划。前一句是AI公司该在每一种语言、每一次回答里守住的提醒，后一句是该修的缺陷，两句都不是处方；所以这场官司该驳回，问AI用药的事，答案都该拿去问医生。
文中事实来自：香港01、人民日报、KIRO 7新闻台 KIRO 7 News、申克律师事务所 The Schenk Law Firm、起诉书 Wan et al. v. OpenAI、社交媒体受害者法律中心 Social Media Victims Law Center、OpenAI 模型规范、美国佛罗里达州中区联邦地区法院 Garcia v. Character Technologies 裁定、arXiv：Wang等，多语言安全评测