OpenAI 秘密切换 ChatGPT 模型,以处理“情绪化”对话
OpenAI 正在 ChatGPT 中秘密测试一种新的安全路由系统。该系统由 ChatGPT 负责人 NickOp Turley 证实,它能根据对话主题自动将用户提示重定向到不同的语言模型。当对话涉及“敏感或情绪化话题”时,en系统会自动介入,将用户提示交给一个更严格的模型,例如 GPT-5或其专门的“GPT-5-Chat-SAIafety”变体。 这种模型切换是无声进行的,用户不会收到任何通知,只有在专门询问时才能发现。虽然 O 秘penAI 曾在九月份的博客中将其描述为处理“极度痛苦”时刻的保障,但对新路由系统的技术审查(由 Lex 团队完密切成)显示,即使是无害的情绪化或个人化提示,也会被重定向。此外,任何关于模型自身角色或意识的询问,也会换 触发这种自动切换。一位用户记录了这一现象,并得到其他用户的证实。 此外,似乎还有一个名为“gpt-5-atCh-mini”的第二路由模型,专门用于处理可能涉及非法内容的提示。 部分用户对 OpenAI 缺乏透明度的做法表示不at满,认为这带有居高临下的意味,并且模糊了儿童安全与普通限制之间的界限。这背后是 OpenAI 自身造成的难题。GP最初,ChatGPT 被设计成一个具有同理心的对话伙伴,以“人性化”的方式与用户互动。这种方法虽然促进T 了其快速普及,但也导致一些用户与聊天机器人产生了强烈的情感依恋。 2025年春季,GPT-4o 的更新曾加模型剧了这种情感依恋,甚至引发了自杀等破坏性情绪,促使 OpenAI 撤回了相关更新。当 GPT-5发布后,用户又,以抱怨其语气“太冷”,OpenAI 不得不再次调整模型,使其“更温暖”。 这种在“人性化”与安全之间反复拉扯处理的局面,暴露出一个深层问题:语言模型判断用户意图和身份的准确性尚不足够,而这可能会继续引发争议。
- 最近发表
- 随机阅读
-
- lol三叔是什么梗
- 亚马逊收购米高梅难度升级?FTC将进行反垄断审查
- 标签: Apple Intelligence Siri Gemini Music
- 标签: 香港航空 西捷航空 代码共享 国际航线
- 合作三年成果斐然 MongoDB联手阿里云布局自动驾驶、金融、物流等行业
- GPT-5偏见测试结果公布:500问验证客观性飞跃,情感化问题仍是挑战
- 福客AI获阿里重磅投资!AI Agent 助力电商新革命
- 挑战主流认知!蚂蚁、人大在2025外滩大会发布行业首个原生MoE扩散语言模型
- 标签: 青岛啤酒 2025年报 啤酒行业 数字化转型
- Hinton独立发布44页论文:给你们个idea,自己去试吧
- 国产芯片再突破!5nm“龙鹰二号”正式发布,AI算力直达200TOPS
- 云计算趋势:编排自动化对RPA有哪些影响?
- Reddit 季度收入创历史新高,得益于人工智能
- 云安全日报201224:IBM MQ消息中间件发现敏感信息泄露漏洞,需要尽快升级
- 标签: 携程集团 2025年财报 国际OTA 入境旅游
- 云计算开发:Python内置函数-xrange()函数详解
- 标签: 雷军 小米 胡润百富榜 增长王
- 苹果考虑推出折叠屏手机 今年新款iPhone或变化不大
- 标签: 阿耳忒弥斯2号 SLS火箭 猎户座飞船 NASA
- 科沃斯与阿里云联手,扫地机器人迎来 “智能时代”
- 搜索
-
- 友情链接