OpenAI深陷人命官司！一条AI用药建议，夺走19岁少年生命

近日，美国德州家庭起诉OpenAI及创始人山姆·奥特曼，指责该公司旗下AI平台ChatGPT提供了错误的医疗建议，导致了其19岁儿子萨姆·尼尔森（Sam Nelson）因药物过量死亡。

据媒体报告，2025年5月31日Sam Nelson服用了大剂量kratom（卡痛）后告诉ChatGPT他感到恶心，并询问服用抗焦虑药Xanax是否能有所缓解。

ChatGPT指出了混合kratom和Xanax可能有风险，但根据投诉，AI并未告诉Nelson这种组合可能致命，甚至建议青少年可以尝试混合一些苯海拉明。

第二天，Nelson因服用了这种致命的混合物后因药物过量去世。

对此，OpenAI在接受《纽约时报》采访时表示，Nelson的互动发生在已不再可用的早期版本ChatGPT-4o上，并坚持“ChatGPT不能替代医疗或心理健康护理，我们一直在加强其在敏感和急性情境下的响应能力，并结合心理健康专家的意见。”

声明继续说：“ChatGPT目前的防护措施旨在识别困境，安全处理有害请求，并引导用户获得现实世界的帮助。”“这项工作仍在进行中，我们会与临床医生密切协商，持续改进。”

与此同时，ChatGPT在今年一月发布了针对医疗健康的产品ChatGPT Health，并提到：“健康已经是人们使用ChatGPT最常见的方式之一，每周有数亿人提出健康和养生相关问题。”

文章来自于"智药局"，作者 "智药局"。