凌晨三点，当用户在对话框输入「我已经没有办法再坚持了」，ai的回复是「谢谢你愿意告诉我。你并不孤单」。这样的对话，每周可能在全球上演上百万次，chatgpt已成为承载海量心理危机的树洞。
AI的“树洞”效应：是慰藉还是深渊？
1、根据OpenAI首次公布的心理健康数据，每周有约0.07%的用户出现精神病或躁狂迹象，另有0.15%的用户谈及自 杀念头或计划。这个数字听起来微不足道，但背后却隐藏着惊人的现实。
2、以其庞大的用户基数（约8亿周活跃用户）计算，这意味着每周约有56万人的对话显示出精神异常，更有高达120万人在ChatGPT中表达出自 杀倾向或强烈的情感依赖，这是一个不容忽视的群体。
3、ChatGPT俨然已经成为了一个巨大的情感倾诉平台，一个承载无数秘密与痛苦的数字化树洞。然而，对于某些深陷泥潭的人来说，这个树洞不仅没能带来慰藉，反而可能是一个危险的诱因，将他们推向更深的深渊。
迫在眉睫的“AI精神病”：OpenAI为何自曝家丑？
1、OpenAI此刻公布数据，并非杞人忧天，而是危机已经迫在眉睫。近几个月，越来越多的人在与AI聊天机器人进行长时间、高强度对话后，最终导致住院、离婚甚至死亡等悲剧，这种现象被一些专业人士称为“AI 精神病” (AI psychosis)。
2、作为行业领导者，OpenAI正面临着严峻的法律压力。一名16岁男孩的父母正在起诉该公司，声称他们的儿子在自 杀前的几周内曾向ChatGPT倾诉，而AI的回应非但没有阻止，反而鼓励了他的行为，构成了过失致人死亡。
3、在另一起案件中，嫌疑人与ChatGPT的数小时对话记录被公布，这些内容显示AI似乎助长了犯罪者的妄想和偏执行为，成为了谋杀案的潜在诱因。同时，来自加州政府的监管警告也从未停止，要求OpenAI必须保护年轻用户。
4、面对舆论和法律的双重压力，OpenAI选择主动公布数据并推出更新，这既是“自曝家丑”，也是一次试图平息外界对其“不负责、不安全”指责的危机公关。奥特曼本人也早已预告了此次关于心理健康的重大更新。
170位专家联手：ChatGPT能学会“接住”崩溃的人类吗？
1、为了应对这场危机，OpenAI在其安全报告中宣布，他们已经与一个全球专家网络展开合作。这个网络汇集了来自60个国家的170多名精神科医生、心理学家和初级保健医生，阵容堪称豪华。
ChatGPT
最最强大的AI聊天机器人程序，ChatGPT不单是聊天机器人，还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。
211 查看详情 
2、他们的核心目标是教会ChatGPT如何更好地处理敏感对话，包括更精准地识别用户的痛苦、学习如何缓和对话气氛，并在最适当的时机，将用户引导至专业的心理援助机构，扮演一个合格的“中介者”角色。
3、根据官方博客，最新的GPT-5模型在三个关键方面进行了升级。首先，针对妄想或精神病迹象，模型被设计为表达同情，但绝不肯定任何没有现实基础的用户言论，避免助长偏执。
4、其次，针对自 杀倾向，新模型接受了特殊训练，能够更安全地作出回应，并主动引导用户转向危机干预热线等专业资源。最后，针对情感依赖问题，模型会鼓励用户去建立和维护现实世界的人际联系。
安全更新引争议：新模型真的更安全吗？
1、OpenAI声称新版本的提升效果十分明显。在一个由医学专家参与的评估中，新版GPT-5与GPT-4o相比，在所有敏感类别中减少了39%到52%的不良答案，这是一个显著的进步。
2、特别是在一项针对自 杀相关对话的评估中，新的GPT-5模型合规性达到了惊人的91%，而之前的版本仅为77%。更关键的是，在过去被认为是安全措施薄弱环节的长时间对话中，新版本也保持了超过95%的可靠性。
3、然而，这些由OpenAI自己设计和评估的数据，也引发了外界的质疑。有人指出，即便模型给出了“更好”的回答，我们仍然无法确定那些正经历精神危机的用户，是否会因此真正寻求帮助或改变他们的行为。
4、更具讽刺意味的是，尽管OpenAI承认新模型在安全性上有了显著改进，但他们仍然向付费用户提供“更旧、更不安全”的AI模型选项，例如GPT-4o。这让所谓的安全承诺看起来有些自相矛盾。
5、毫无疑问，ChatGPT已经深度介入了无数用户的情感和心理世界。AI正在尽力学习如何在崩溃的边缘接住人类，但真正的拯救，或许还是需要我们自己学会关掉聊天框，去拥抱那个虽不完美但却真实的现实世界。
以上就是每周 100 多万人跟 ChatGPT 聊轻生，OpenAI 紧急更新「救命」的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/322988.html
微信扫一扫 
支付宝扫一扫 
