热点

OpenAI 秘密切换 ChatGPT 模型,以处理“情绪化”对话

字号+ 作者:牛骥同槽网 来源:员工关怀 2026-11-23 我要评论(0)

OpenAI 秘密切换 ChatGPT 模型,以处理“情绪化”对话

OpenAI 正在 ChatGPT 中秘密测试一种新的安全路由系统。该系统由 ChatGPT 负责人 NickOp Turley 证实,它能根据对话主题自动将用户提示重定向到不同的语言模型。当对话涉及“敏感或情绪化话题”时,系en统会自动介入,将用户提示交给一个更严格的模型,例如 GPT-5或其专门的“GPT-5-Chat-Safety”AI变体。

这种模型切换是无声进行的,用户不会收到任何通知,只有在专门询问时才能发现。虽然 OpenAI 曾在九月份的 秘博客中将其描述为处理“极度痛苦”时刻的保障,但对新路由系统的技术审查(由 Lex 团队完成)显示,即使是无密切害的情绪化或个人化提示,也会被重定向。此外,任何关于模型自身角色或意识的询问,也会触发这种自动切换。一换 位用户记录了这一现象,并得到其他用户的证实。

此外,似乎还有一个名为“gpt-5-at-mini”的第二路由模Ch型,专门用于处理可能涉及非法内容的提示。

部分用户对 OpenAI 缺乏透明度的做法表示不满,认为这带有居高临下at的意味,并且模糊了儿童安全与普通限制之间的界限。这背后是 OpenAI 自身造成的难题。最初,ChatGGPPT 被设计成一个具有同理心的对话伙伴,以“人性化”的方式与用户互动。这种方法虽然促进了其快速普及,但也导T 致一些用户与聊天机器人产生了强烈的情感依恋。

2025年春季,GPT-4o 的更新曾加剧了这种情感依恋,模型甚至引发了自杀等破坏性情绪,促使 OpenAI 撤回了相关更新。当 GPT-5发布后,用户又抱怨其语气“太冷”,以,OpenAI 不得不再次调整模型,使其“更温暖”。

这种在“人性化”与安全之间反复拉扯的局面,暴露出一个深处理层问题:语言模型判断用户意图和身份的准确性尚不足够,而这可能会继续引发争议。

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 阿里云发布超融合数字孪生平台已服务高速、城市交通、码头和机场

    阿里云发布超融合数字孪生平台已服务高速、城市交通、码头和机场

    2026-09-17

  • 标签: 小鹏 IRON 人形机器人 全固态电池

    标签: 小鹏 IRON 人形机器人 全固态电池

    2026-09-21

  • 20张图带你到HBase的世界遨游

    20张图带你到HBase的世界遨游

    2026-08-04

  • 标签: 拼多多 美团 京东 饿了么

    标签: 拼多多 美团 京东 饿了么

    2026-08-09

网友点评