ChatGPT减药建议致用户死亡
推荐指数 59.0 NO. 033 · 2026.10.29
发布2026/10/28
简介
西雅图31岁华人女工程师依ChatGPT拟定的25天减药计划停用抗癫痫药后猝死，父母起诉OpenAI不当致死。此案将直接冲击AI医疗免责边界与产品责任认定，所有做健康类AI应用的团队需重新评估安全护栏设计。
编辑判断
这个案子的关键不在"AI有没有行医执照"，而在OpenAI的免责声明能否扛住产品责任诉讼。美国现行判例中，Good Samaritan条款对算法推荐不适用，如果法院认定ChatGPT的减药方案属于"设计缺陷"，将打开AI公司承担人身损害赔偿的闸门。
做健康、法律、金融等高风险领域的AI产品团队，现在需要紧急做两件事：一是把"请咨询专业人士"的被动提示改成阻断式交互（如强制确认用户已咨询医生），二是重新训练模型对渐进式危险请求的识别能力——这个案例中用户分多次追问才拿到完整减药表，单轮对话的安全过滤根本没用。
中国出海团队尤其要注意，欧盟AI Act将医疗AI列为高风险系统，2026年全面生效后的合规成本会大幅上升。