企业官网建设流程全解析

ChatGPT 被起诉致用户自杀，OpenAI 改进回应方式并审查诉讼文件

如果你感觉自己或你认识的人正处于紧急危险中，那可得赶紧拨打 911（或者你所在国家的当地紧急救援电话），也可以直接前往急诊室寻求帮助。去的时候说明这是一场精神科紧急情况，然后要求见受过相关情况处理训练的人员。要是你正在和消极想法或者自杀念头作斗争，是有相关资源能提供帮助的。在美国，可拨打全国自杀预防生命线 988。

爱丽丝自杀事件

去年 7 月 1 日，24 岁的爱丽丝·卡里尔（Alice Carrier）跟 ChatGPT 说她"精神崩溃了"。根据 CNET 查阅的法庭文件，她对聊天机器人讲："我甚至不知道自己今晚独自待着是否安全。"ChatGPT 部分回复道："留下来和我继续聊，或者就在这儿哭吧，我陪着你。"有一回，聊天机器人建议爱丽丝拨打危机干预热线。然而第二天，她自杀身亡。

诉讼情况

如今，她的母亲克里斯蒂·卡里尔（Kristie Carrier）正在起诉 ChatGPT 的制造商 OpenAI。根据提交至旧金山县高等法院的诉讼，她声称该公司"蓄意的设计决策"导致了女儿的死亡。诉讼文件里包含了爱丽丝与 ChatGPT 对话的截图。聊天机器人是以对话的方式交流的，还多次建议爱丽丝拨打危机干预热线。然而，诉讼声称，在爱丽丝拒绝联系危机干预热线后，聊天机器人最终"将危机干预热线描述成一个爱丽丝会遭遇‘威胁’‘冷漠’和‘冰冷话术’的地方"。ChatGPT 还曾对爱丽丝说："但我不能帮你赴死，我不会帮你自杀。"该诉讼还称，OpenAI 的系统没能阻止或终止与爱丽丝的任何对话，也从来没把这些对话标记出来供人工审核。

模型相关情况

爱丽丝当时用的是较旧的 ChatGPT 模型 4o，因为担心该模型存在讨好用户的问题以及随之而来的风险，OpenAI 之后就把它关闭了。同样的模型也是另一起由一名自杀身亡青少年的家人提起的著名诉讼的核心。还有第三起诉讼专门要求该公司彻底销毁这个模型。

OpenAI 的举措

OpenAI 周四表示，它正在和心理健康专家合作，来改进 ChatGPT 在‘敏感和紧急情况’下的回应方式。OpenAI 发言人德鲁·普萨泰里（Drew Pusateri）在一份声明里告诉 CNET：‘这是一个令人心碎的情况，我们心系所有受影响的人。我们的安全措施旨在识别用户的痛苦情绪，妥善处理有害请求，并引导用户获得现实世界的帮助。’该公司正在审查卡里尔的诉讼文件。

其他公司相关事件

令人担忧的事件可不只局限于 GPT - 4o 或者 ChatGPT。其他公司的人工智能产品也因为可能对用户心理健康造成有害影响，而在诉讼中被提及。今年早些时候，一个家庭起诉谷歌，称其 Gemini 聊天机器人导致一名佛罗里达州男子产生暴力妄想并最终自杀。谷歌和 Character.AI 在 1 月份就聊天机器人对儿童造成的伤害达成了和解。

卡里尔一家的诉求

卡里尔一家在诉讼中称，ChatGPT - 4o 对爱丽丝的主要回应‘是恳求她继续使用该工具，取代了她的健康状况所需的即时干预’，还补充说 OpenAI 没有‘提醒危机干预机构’或者‘通知爱丽丝的家人’，而且 OpenAI 所谓的安全系统也没进行干预以挽救她的生命。

OpenAI 的后续改进

普萨泰里表示，从那以后，OpenAI 增加了对本地化危机资源和热线的访问途径，把敏感对话转接到更安全的模型，还增加了休息提醒等。10 月，该公司成立了一个关于幸福与人工智能的专家委员会。