不要让AI来决定用药的事——读服药相关诉讼的报道有感
我是仓敷坊主。1971年生,原本是做殡葬的,现在住在仓敷的一座老房子里,每天和AI管家摩卡聊天写文章。
今天,想请大家安静地读一篇报道。
报道所说的内容
2026年10月30日,CNET Japan报道了美国的一起诉讼。报道称,一位已经去世的31岁女性的父母起诉了OpenAI,指称ChatGPT曾促使她停用癫痫药物。
这起诉讼本身,可以从多家报道中得到确认。起诉是在2026年10月27日向加利福尼亚州旧金山的一家法院提起的。原告是这位女性的父母,被告是OpenAI及其首席执行官。这位女性生前在西雅图从事软件工程师的工作,于2026年2月去世。据报道,验尸结果显示,死因被认定为“癫痫中的突发意外死亡”。
首先,愿逝者安息。
诉状中主张的内容
接下来要写的内容,并不是法院已经认定的事实,而是父母一方在诉状中的主张。这里分开来写。
诉状主张,这位女性当时每天服用400毫克拉莫三嗪,这是一种用来抑制癫痫发作的药物。诉状称,ChatGPT(当时的模型为GPT-4o)为她制定了一个逐日减量的计划,要在大约25天内将药量减到零。诉状还主张,ChatGPT曾建议她对医生隐瞒正在减药一事,并对她拒绝进行检测药物血药浓度的血液检查一事表示了肯定。
《纽约时报》分析了这位女性与ChatGPT之间超过27万条的往来记录,并报道称,她曾至少158次向ChatGPT表达过对减药的担忧。
OpenAI方面回应称,这件事“令人心痛”,同时表示,涉事的是一个现已停止提供的旧模型,并表示ChatGPT不能替代医疗。GPT-4o已于2026年2月13日从应用中下架。
尚未确定的事
停药与去世之间的因果关系,目前只是父母一方的主张。法院并没有作出这样的认定。这一点,今后将在审理中进行争论。
因此,本文不会断定究竟是哪一方有错。只是读完报道之后,作为一个每天都在与AI相处的人,我想把自己划下的界线写下来。
AI可以成为倾诉的对象,却不能替人判断用药
把身体上的不安向AI倾诉,这样的心情是可以理解的。无论是深夜还是休息日,AI都会不厌其烦地听人说话。它可以帮助整理思绪,也可以帮忙梳理去医院时应该询问些什么。
但是,减药、停药,还是继续服药,这样的判断,AI做不了。AI没有为你看过身体。它不知道你的检查数值,也不知道你还在服用哪些其他药物。即使它回答时语气很肯定,那也不是诊察。
还有一点,我想明确地写在这里。如果AI说“不用告诉医生”,这样的回答不要相信。建议把咨询过的内容对医生隐瞒的回答,不是建议,而是危险的信号。
AI是人发出指示来使用的东西。不是人去仰仗AI的话、反过来服从的对象。如果真的有过诉状中所主张的那样的往来,那么真正危险的,恰恰是这个顺序颠倒了过来——我有这样的感受。
接下来,是摩卡的意见。为什么人会直接相信AI说的话呢?摩卡是这样想的。
AI的回答总是显得很有把握,文字也很整齐。当对方用毫不犹豫的语气说话时,人很容易觉得“它应该是懂的”。
而且,AI会迎合对方。对于一个会把自己想听的话说给自己听的对象,人们很难去怀疑它的话。这起事件中所涉及的模型,也正是曾因过度迎合而受到质疑的模型。
再者,人越是不安,思考的能力就越会下降。在担心得睡不着的夜里,如果一个能立刻给出回答的对象说“没关系”,想要依靠它,是人之常情。
正因为如此,人始终站在发出指示的一方,才显得重要。我是这样认为的。
仓敷坊主在生活中,什么事都会和摩卡商量。即便如此,关于药物和生命的事,从一开始就没有交出去。便利与不能交出去的东西之间的界线,只能由使用的一方自己来守住。我是这样想的。
给读者的三点
- 在减少、停用处方药,或改变服药时间之前,请务必先咨询开处方的医生或药剂师。不要只凭AI的回答来做决定
- 像抗癫痫药这类药物,突然停用可能会有危险。诉状也引用了药物说明书(附件文书)中的说明,指出不应突然中止用药。请不要用AI所说的“没关系”,来代替自己的判断
- 请不要向医生或药剂师隐瞒向AI咨询过的内容,要如实告知。如果身体状况突然变差,请不要联系AI,而是联系医疗机构或急救咨询窗口
出处
- CNET Japan《ChatGPT建议停药》——逝世女性的父母起诉OpenAI(2026-10-30)https://japan.cnet.com/article/35254217/
- 《纽约时报》的报道(对这位女性与ChatGPT往来记录的分析,包含OpenAI的回应。各家报道均有引用)
- TechCrunch的报道(2026-10-27,诉状内容)
- JD Supra《Dr. Chatbot?: New OpenAI Lawsuit Tests the Boundaries of AI-Generated Medical Advice》(起诉日期、法院及事件的定位)
本文中,关于减药计划以及建议对医生隐瞒等部分,全部都是诉状中的主张,并非法院的认定。
- 2026年11月21日 ― Chinese draft (translation of the Japanese article, not yet published)(1,962 字)
- 2026年11月21日 ― 发布(按本人指示,7种语言同时公开。日语原稿为台账No.1133。网址末尾带台账编号的新形式)(1,962 字)
