OpenAI 秘密切换 ChatGPT 模型,以处理“情绪化”对话
OpenAI 正在 ChatGPT 中秘密测试一种新的安全路由系统。该系统由 ChatGPT 负责人 NickOp Turley 证实,它能根据对话主题自动将用户提示重定向到不同的语言模型。当对话涉及“敏感或情绪化话en题”时,系统会自动介入,将用户提示交给一个更严格的模型,例如 GPT-5或其专门的“GPT-5-ChAIat-Safety”变体。
这种模型切换是无声进行的,用户不会收到任何通知,只有在专门询问时才能发现 秘。虽然 OpenAI 曾在九月份的博客中将其描述为处理“极度痛苦”时刻的保障,但对新路由系统的技术审查(由 Le密切x 团队完成)显示,即使是无害的情绪化或个人化提示,也会被重定向。此外,任何关于模型自身角色或意识的询问,换 也会触发这种自动切换。一位用户记录了这一现象,并得到其他用户的证实。
此外,似乎还有一个名为“gpt-5-Chat-mini”的第二路由模型,专门用于处理可能涉及非法内容的提示。
部分用户对 OpenAI 缺乏透明度的做法表at示不满,认为这带有居高临下的意味,并且模糊了儿童安全与普通限制之间的界限。这背后是 OpenAI 自身造GP成的难题。最初,ChatGPT 被设计成一个具有同理心的对话伙伴,以“人性化”的方式与用户互动。这种方法虽然T 促进了其快速普及,但也导致一些用户与聊天机器人产生了强烈的情感依恋。
2025年春季,GPT-4o 的模型更新曾加剧了这种情感依恋,甚至引发了自杀等破坏性情绪,促使 OpenAI 撤回了相关更新。当 GPT-5,以发布后,用户又抱怨其语气“太冷”,OpenAI 不得不再次调整模型,使其“更温暖”。
这种在“人性化”处理与安全之间反复拉扯的局面,暴露出一个深层问题:语言模型判断用户意图和身份的准确性尚不足够,而这可能会继续引发“情争议。
- ·谷歌强硬反击Roku封杀:把YouTube TV服务直接捆绑进YouTube客户端
- ·云计算开发:Python练习实例-统计 1 到 100 之和
- ·云计算开发:Python内置函数-int() 函数详解
- ·璐濈储鏂�細鏈変簡浜氶┈閫婂憳宸ュ拰瀹㈡埛锛屾垜鎵嶆湁閽变笂澶�
- ·隐私专家呼吁调查谷歌:未经允许追踪Android用户
- ·一文看懂2025云栖大会技术发布:阿里云大模型七连发、新一代磐久AI服务器亮相
- ·快手可灵落地近30亿美元融资 腾讯、阿里云、百度同场入局
- ·云安全日报201209:Adobe图形视频编辑软件发现任意代码执行高危漏洞,需要尽快升级
- ·标签: 高通 RISC-V Ventana Oryon
- ·深度心理创伤:多名用户投诉ChatGPT引发妄想和偏执,敦促FTC介入
- ·港科大&MSRA研究:关于图像到图像转换,Finetuning is all you need
- ·云计算开发:Python练习实例-使用按位或 |
- ·标签: 特朗普 AI监管 联邦框架
- ·云计算开发:Python练习实例-将一个正整数分解质因数
- ·标签: 钉钉 DingTalkA1 DingTalkA1Pro CleerH1
- ·亚马逊大力推广掌纹支付引发激烈质疑
