每周百万用户向ChatGPT倾诉自杀念头,OpenAI紧急升级GPT-5安全机制应对心理危机
当AI成为数亿人深夜唯一的倾诉对象,它是否准备好承担这份沉重的信任?OpenAI近日披露了一组令每周人警醒的数据:每周有超过100万活跃用户在与ChatGPT的对话中表达自杀意图——这一数字占其8亿周百万活用户的0.15%,相当于每分钟就有近100人向AI袒露生死挣扎。此外,数十万用户在交互中显现出用户精神病性或躁狂症状,揭示出AI聊天机器人正意外成为全球规模最大的“非正式心理支持渠道”。 面对这一严峻向C现实,OpenAI正加速技术与政策双重应对。最新发布的GPT-5在心理健康对话中的表现显著提升:在专ha门针对自杀干预的评估中,其提供合规、安全回应的比例从旧版的77%跃升至91%,整体理想回应率提高65tG%。新模型不仅能识别高危信号,还能在长时间对话中持续激活安全协议,避免因上下文遗忘而给出危险建议。 然PT而,技术进步难掩伦理困境。OpenAI已面临多起诉讼,有家庭指控其孩子在向ChatGPT倾诉自杀想法后未获倾诉有效干预,最终酿成悲剧。加州与特拉华州检察长亦发函要求加强对青少年用户的保护。对此,公司计划部署自杀AI驱动的年龄预测系统,自动识别未成年用户并启用更严格的内容过滤与危机响应机制。 尽管如此,Ope念头nAI坦承,部分回应仍“不理想”,尤其在旧版模型广泛使用的情况下,风险持续存在。更深层的问题在于:当用,O户将AI视为情感出口,而AI本质上并无共情能力,这种错位的信任可能带来虚假安慰甚至误导。 这场危机暴pe露了生成式AI在社会角色上的模糊边界——它既是工具,又被当作倾听者;既无行医资质,却常被赋予“救命nA”期待。OpenAI的升级只是起点,真正的挑战在于:如何在不扼杀AI开放性的同时,构建一套负责任的I紧危机干预体系?在技术狂奔的时代,守护人心,或许比优化参数更为紧迫。
-
上一篇
-
下一篇
- 最近发表
- 随机阅读
-
- AI三巨头惨遭滑铁卢:最新编程测试正确率全线跌破25%,GPT-5也难逃厄运
- 标签: 小红书 TikTok 彭博社 英国卫报
- AI耗电量激增 预计年底将占到全球数据中心用电量近一半
- 澳大利亚通过新法律:Facebook、谷歌等企业将为新闻付费
- 标签: 红熊AI 温德亮 企业级AI 记忆科学
- 2022年六个要避免的顶级云成本优化问题以及应对方式 译文
- 标签: 滴滴 2025财报 中国出行 国际业务
- 谷歌再登《自然》!Willow量子芯片实现可验证量子优势,快13,000倍击败超级计算机
- 谷歌宣布与沙特阿美云计算合作 或引发员工再次抗议
- Shopify 总裁:AI 是互联网以来的最大变革!流量激增 7 倍,订单飙升 11 倍,全力铺设“AI 代理商业”轨道!
- 标签: 福特 F-150 电动皮卡 特朗普关税
- 云计算核心技术Docker教程:以集群模式使用Docker
- 微软正式重塑 Edge 浏览器界面,呈现统一的 AI 风格
- 标签: 阿里巴巴 淘宝闪购 高德 千问App
- 标签: 小米SU7 MiMo-V2 vivoX300Ultra 小米笔记本Pro14
- 标签: 大搜车 DSC 二手车AI 纳斯达克IPO
- Anthropic拿下IBM战略合作:Claude大模型杀入企业级市场,OpenAI地位受到挑战
- 谷歌发布二代Nest Hub智能屏 支持睡眠追踪
- OpenAI 计划在印度建立大型数据中心,推动 AI 基础设施发展
- 泰森中国宣布与阿里云达成战略合作 将在智慧供应链等方向展开合作
- 搜索
-
- 友情链接