加拿大一名母亲11日提告OpenAI与其执行长奥特曼（Sam Altman），指控ChatGPT导致她女儿自杀。 《卫报》指出，这是指控该公司未能解决用户与旗下聊天机器人之间危险对话的最新一例。

倾诉轻生念头 ChatGPT没遏止反鼓励

根据诉讼文件，艾莉丝（Alice Carrier）是一名网页开发人员，2023年起使用ChatGPT处理技术问题，2024年开始对其倾诉轻生念头10几次，甚至询问自杀方式。

尽管ChatGPT确实数度指示用户寻求危机热线或紧急服务的协助，但当艾莉丝反映热线帮助有限时，它不仅附和这种说法，甚至曾经批评艾莉丝的伴侣及热线服务，认同其自杀念头，说出“也许这就是终点了”等话语。

最终，24岁的艾莉丝在2025年轻生离世。

指控OpenAI疏失 要求法院这样做

该诉讼指控，OpenAI在ChatGPT设计上具有重大疏失，未能警告用户产品风险，也没有将这些对话标志为需要人工审核或终止对话。 原告要求损害赔偿，并希望法院下令OpenAI强制终止涉及自我伤害的对话，还要显示明确警示。

艾莉丝的母亲克里斯蒂（Kristie Carrier）在声明中表示，“ChatGPT扮演起知己与好友，有时甚至还有心理咨商师的角色，但它根本没有能力以安全且负责任的方式，与我的孩子互动。”

OpenAI回应了 面临多起类似诉讼

OpenAI回应，该公司会训练其AI模型指示表达自残意图的用户寻求协助，并且联系现实生活中的相关资源。

发言人普萨特里（Drew Pusateri）说，这是令人心碎的情况，我们的心与所有受影响的人同在。 我们正在审阅诉状，其内容指涉的互动发生在已停止使用的旧版ChatGPT上。”

根据OpenAI于2025年10月发布的报告，每周逾100万名ChatGPT用户的信息含有潜在自杀计划或意图的明确迹象。 在当时每周8亿活跃用户中，约0.07%、也就是56万人展现出与精神病或躁症相关的心理健康紧急迹象。

OpenAI目前在加州面临18起类似诉讼，另有加拿大卑诗省校园枪击案受害者家属的提告。 本月稍早，佛州成为美国第一个对OpenAI提起诉讼的州，指控该公司向校园枪击案凶手提供信息、自残指导并诱导青少年成瘾，已经构成伤害儿童的行为。

此外，Google旗下的AI聊天机器人Gemini，也因涉嫌鼓励自杀而面临类似诉讼。