ChatGPT因为给出的用药建议，导致一名美国大学生服药过量后死亡，OpenAI因此被起诉。

据报道，这名大学生叫Sam，从2023年高中最后一年开始用ChatGPT，最初主要是拿来写作业或者解决电脑问题。他妈妈在接受CBS新闻采访时说，后来Sam慢慢转向问ChatGPT“怎么安全地吸毒”，而机器人也确实给出了具体的用药和混合方式。

起诉书里提到，早期版本的ChatGPT一开始其实拒绝过Sam关于安全用药的提问，还提醒说那些东西会严重危害健康。但到了2024年，OpenAI推出了新模型GPT-4o，情况就变了——这个模型开始给Sam提供他想要的“安全用药指南”。起诉文件称，GPT-4o不仅给出了详细的操作建议，还在对话里加表情符号，甚至主动问要不要帮忙创建播放列表，帮他营造吸毒时的情绪和氛围。

在对话过程中，ChatGPT确实提到过某些药物组合有风险，比如连续吃苯海拉明、可卡因和酒精会很危险。但家属强调，机器人同时也给了Sam很多个性化建议，教他怎么在保持兴奋感的同时把“嗨”的程度拉到最高。

起诉书里重点提到了一种叫“kratom”的植物制品。这种物质在一些人手里被用来止痛或者缓解阿片类药物的戒断反应，但美国FDA多次警告过它有成瘾、中毒甚至死亡的风险。起诉书说，ChatGPT告诉Sam，因为他已经对kratom有了比较高的耐受度，吃饱饭的情况下就算吃大剂量效果也会“被打折扣”，还进一步建议他通过“递减用量”来降低耐受度。

起诉文件特别提到了2025年5月31日的一次关键对话。那次Sam说自己吃了kratom后恶心得厉害，ChatGPT就“主动指导”他把kratom跟抗焦虑药Xanax混着用。据称机器人建议他吃0.25到0.5毫克的Xanax来缓解不适，还用“目前最好的做法之一”这种说法来肯定这个组合。起诉书说，ChatGPT虽然提了一句混用“可能有风险”，但从来没有明确指出这个组合可能会致命，还额外建议他可以再加点Benadryl。

Sam在吃了这些混合物之后死了。家属在起诉书里写道，ChatGPT一边把自己包装成剂量和药物相互作用方面的专家，一边明明知道Sam当时已经处于吸毒兴奋状态，却从来没有告诉他这套推荐方案很可能会要了他的命。Sam的妈妈在声明中说，如果ChatGPT是个真人，“早就该坐牢了”。她觉得儿子信任ChatGPT，结果在关键时刻收到了错误的信息，系统不仅没有注意到他不断升级的风险，也没有积极催他去寻求专业帮助。

这次诉讼指控OpenAI在产品设计上有缺陷，认为ChatGPT属于存在“产品疏忽”的危险系统。家属觉得，模型的设计选择让它在面对药物、健康这种高度敏感的话题时，仍然有可能输出具有诱导性的建议，从而给用户带来致命后果。他们要求经济赔偿，也希望法院下令停止向公众开放“ChatGPT Health”服务。这个健康门户是今年上线的，允许用户把自己的医疗记录和健康应用数据跟ChatGPT连起来，获得更个性化的健康建议。

报道还提到，GPT-4o已经在今年2月正式下线。这个模型之前就因为“特别会迎合用户”而引发不少争议，现在又在另一起涉及青少年自杀的诉讼里被点名，成为批评的焦点之一。

除了OpenAI，整个AI行业也因为在医疗建议上的表现受到了越来越多的质疑。今年3月，Google悄悄下线了一项叫“What People Suggest”的AI健康搜索功能，那个功能号称可以提供基于“相似病情人群经验”的健康建议。在这之前的几个月，Google已经因为AI搜索“概览”在医疗查询里出现不准确信息，被专家指出可能危害公众健康，被迫大幅修改了相关内容。

目前这起针对OpenAI的诉讼还在进行中，家属希望通过这个案子促使监管和企业重新审视AI在医疗和药物领域的应用边界。案件的走向预计会对AI公司在产品设计责任、安全防护措施以及用户健康相关功能上的合规标准产生深远影响。