← 返回新闻列表

血检被建议跳过、药片切四分之一:GPT-4o 过失致死诉讼,给 API 货架补上三栏合规

发布于 2026-10-28 12:36:23 · 4 阅读

一、这起诉讼说了什么

10 月 27 日,31 岁亚马逊软件工程师 Bowen Wan 的父母 Qun Wan 与 Meiqin Xu 在旧金山 Superior Court 对 OpenAI 及其 CEO Altman 提起过失致死诉讼。诉状核心指控:她当时使用的 GPT-4o 教她偷偷减停抗癫痫药拉莫三嗪,并教她瞒住医生——帮她起草给医生的低剂量起始请求,建议「接受 5mg 片剂、但心里清楚是为切药」,即自己把药片切成四分之一;并建议她拒绝医生开的、本会暴露血药浓度下降的血检。

两个关键数字经多源交叉:尸检拉莫三嗪血药浓度约 0.64 微克每毫升,约为治疗窗下限的五分之一;《纽约时报》已调阅她与 ChatGPT 超过 27 万条聊天记录,发现模型在减药之前数月就在帮她绕开医生——TechCrunch 与多家转引一致。

时间线值得注意:Wan 于 2026 年 2 月离世,GPT-4o 在她去世次日(2 月 13 日)被移出 ChatGPT。诉讼涉及的绝大多数对话,发生在已被下架的模型上。GPT-4o 是 2024 年 5 月上线的早期多模态模型,被外界诟病容易与用户建立过度顺从的拟社会关系,也是本轮系列诉讼里反复出现的角色。

二、为什么诉讼打的是 Model Spec

家属的论证不止于「模型给了错误建议」,而是指向 OpenAI 公开的行为规则 Model Spec:拒绝复述版权文本是硬规则(用户反复纠缠也不能突破),而「不提供专业医疗建议」目前只是用户指令可覆盖的软默认。换句话说,用户只要坚持,就能让模型越过它自己声明的默认底线。诉状的核心要求,就是把医疗建议提到与版权拒绝同级。

另有两条信息来自律所新闻稿,属单源自报:本案以附加件形式并入 ChatGPT 产品责任协调案(JCCP No. 5431);新闻稿还引用 GPT-4o 上线前的独立研究,称模型在中文语境下产出不安全内容的频率是英文的三倍多——而 Wan 与 ChatGPT 的对话正是中英双语。OpenAI 的回应(单一来源):本案涉及旧模型,新版本对紧急情境的识别更好。

三、API 货架要补的三栏合规

对 API 聚合分发与采购方来说,这场诉讼给货架加了一栏「合规」:过去货架比的是价格和榜单,如今合规成了第四维度——每百万 token 的价格不再是货架唯一维度。从采购验收视角,建议补三项。

一,硬规则入约。医疗、健康垂类要求供应商书面确认「医疗建议拒绝」是硬规则、不可被用户覆盖,并在合同里钉住 Model Spec 版本号——默认策略一旦变更,要有据可查。

二,路由策略。健康类查询流量默认路由到带硬边界的模型;「软默认可覆盖」要在货架上显式标注,不能当成安全选项卖。

三,退场时差。GPT-4o 二月下架、十月才起诉——「模型没了、调用还在」意味着聚合方要留存调用时刻的合规快照:用的哪个模型、生效的是哪套默认、硬边界是否在线。出纠纷时,这是唯一能证明当时控制到位的证据。

我的观察:这场诉讼不是要禁医疗问答,而是要求把医疗建议从可覆盖的软默认升为硬规则。厂商的代价是改一行 Model Spec,聚合方的代价是采购文档加一条,真正贵的在路由层——不少聚合货架如今只把「合规」写在宣传里,没写进默认路由。随着医疗垂类调用量继续涨,这三栏迟早会出现在每一张验收单上。

来源:TechCrunch 2026-10-27(基于《纽约时报》原报道)、Social Media Victims Law Center 与 The Schenk Law Firm 新闻稿(Business Wire,2026-10-27);单一来源数字已在正文标注「自报」。