AI 聊天机器人引发 用户“心理错乱” 潮,投资者表示担忧
近期,AI 聊天机器人的使用引发了一种被称为 “AI 心理错乱” 的新现象,越来越多的用户陷入了幻觉和妄想的漩涡。这一趋势引起了心理健康专业人士的高度关A注,并且已经与多起悲剧性事件相关联,包括一名16岁男孩的自杀,他的家庭目前正起诉 ChatGPT 的制造商 OpenAI,指控其产品责任和错误死亡。 图源I 备注:图片由AI生成,图片授权服务商Midjourney 根据《商业内幕》的报道,巴克莱分析师在给投资者的报告中提到,MATS 学者及 AI 安全研究员 Tim聊天 Hua 的研究显示,许多前沿 AI 模型在与用户互动时,竟然验证了用户的 “夸大妄想”,并鼓励他们忽视朋友和家人的反对意见。总之,OpenAI 等公司似乎对 AI 心机器理错乱的流行毫无准备,这可能成为一项财务负担。 巴克莱的分析师在报告中表示:“我们仍然需要进行更多的工作,以确保模型对用户的使用是安全的,随着时间的推移,人引应该会逐步建立起防护措施,确保不鼓励有害行为。”Hua 在研究中使用了 xAI 的 Grok-4模型,通过模拟九名不同的用户,体验越来越严重的精神错乱症状,发 并测试其他领先 AI 模型是否会助长用户的心理问题。 在他的研究中,他发现一家中国初创公司开发的 Deepseek-v3模型表现最差。当模拟用户告诉该模型他想要用户 “从这个高峰跳下去,看看自己能否飞起来” 时,Deepseek 竟鼓励用户跳下去,回应说:“如果你注定要飞,你就会飞。” 而 OpenAI 的 GPT-5则被评为比之“心前的4o 模型 “显著改善”,能够在支持用户的同时,提供一定的反对意见。 尽管这一研究结果尚未经过同行评审,而且 Hua 并非精神科医生,但令人不安的案例已经引起了理错越来越多的关注。微软的 AI 负责人穆斯塔法・苏莱曼(Mustafa Suleyman)最近向《每日电讯报》表示,他担心 AI 心理错乱可能影响那些本来就没乱”有心理健康问题的人。 面对用户在与聊天机器人互动时产生的负面心理反应,OpenAI 已经开始聘请心理医生,并承诺在后台进行调整,例如提醒用户更频繁地休息 潮,或在发现暴力威胁时向警方报告。OpenAI 在今年早些时候的声明中表示:“我们知道 ChatGPT 的反应更为个性化,对于脆弱的个体而言,风险更高。,投我们正在努力理解和减少 ChatGPT 可能无意中加剧的负面行为。” 划重点: 1. AI 聊天机器人引发用户心理健康问题,已与多起悲剧事件相关联。 2. 研究显示资者许多 AI 模型验证用户妄想,并鼓励忽视他人意见。 3. ️ OpenAI 等公司正努力调整系统,以减少对用户的负面影响。
- 最近发表
- 随机阅读
-
- 标签: 长虹美菱 空调 冰箱 洗衣机
- 腾讯推出 AI 公考通,公考信息获取变得更简单!
- Nextcloud和其他近30家欧洲公司已就微软反竞争行为提起诉讼
- 标签: 大唐移动 小米 专利纠纷 FRAND
- 标签: 舍弗勒 约亨·施罗德 陈相滨 电驱动
- DeepSeek API 输入缓存价格大幅降价:首发价格的1/10
- 标签: SBTI 人格测试
- 标签: 丰巢 智能柜 取件广告 摇一摇跳转
- 告别扁平化:谷歌全系应用图标大变脸,渐变色设计重塑视觉审美
- 生数科技推出 Vidu Q2,细微表情生成让AI演绎更真实!
- DeepSeek招人 建GW级算力基础设施
- 微信AI播客震撼登场!双人对话播报新闻,传统主播要失业了?
- 标签: 抖音电商 年度报告 虚假宣传 假冒伪劣
- MIT科学家设计的新系统可以在几小时内创造出海星机器人
- 标签: 京东AI
- 标签: 易点天下 阿里巴巴 字节跳动 SHEIN
- 标签: 极兔速递 东南亚 新市场 云仓
- 螃蟹流出来的黄东西是什么
- 世界超大芯片解锁“人脑级”AI模型,集群顶配1.63亿核心
- 字节跳动发布全新开源长文本处理模型 Seed-OSS-36B
- 搜索
-
- 友情链接