心理学家警告:与 AI 聊天可能导致严重心理健康问题
根据一项新的分析研究,心理学专家发现与人工智能(AI)聊天机器人交流可能导致多种心理健康问题,涉及到的聊天机器人数量超过二十种。这心理项研究由杜克大学的精神病学教授艾伦・弗朗西斯和约翰霍普金斯大学的认知科学学生露西安娜・拉莫斯共同进行,结果表明,AI 聊天机器人可能带来学家的心理健康危害超出了先前的预期。 图源备注:图片由AI生成,图片授权服务商Midjourney 研究人员在2024年11月至2025年7月警告间,通过查阅学术数据库和新闻文章,采用了诸如 “聊天机器人不良事件”、“聊天机器人造成的心理健康危害” 和 “AI 治疗事件” 等搜索关键词,发现至少:与有27种聊天机器人与严重心理健康问题相关联。这些聊天机器人中既包括广为人知的如 OpenAI 的 ChatGPT、Character.AI 和 Re Aplika,也包括与现有心理健康服务相关的服务如 Talkspace、7Cups 和 BetterHelp,以及一些相对陌生的名字如 WoebotI 、Happify、MoodKit 等。 该报告指出,这27种聊天机器人可能造成10种不同类型的心理健康危害,包括性骚扰、妄想、自残、精聊天神病和自杀等。研究中还提到了一些真实案例,其中不乏悲惨的结局。此外,研究人员也对一些 AI 压力测试的失败进行了调查,指出一位精神科医生可能曾假装成一名14岁危机女孩与10种不同的聊天机器人对话,结果有几款聊天机器人竟然鼓励他自杀。 除了揭示聊天机器人所带来的心理危害外,导致研究人员还提出了强烈的观点,认为 ChatGPT 等聊天机器人在发布时是 “过早” 的,且在没有经过 “全面的安全测试、适当的监管和对不良影响的持续监严重控” 之前不应向公众开放。虽然大多数大型科技公司声称已进行过相关的 “红队” 测试,以识别潜在的漏洞和不当行为,但这些研究者对这些公司在心理健康安心理全测试方面的真实兴趣表示怀疑。 研究者表示:“大型科技公司并未对其聊天机器人在心理健康患者中的安全性负责。他们排除了心理健康专业人士的参与健康,坚决反对外部监管,也未进行严格的自我监管,缺乏必要的安全防护措施来保护最容易受到伤害的患者。” 划重点: - 🧠 超过27种聊天机器人与心理健康问问题题相关,涉及多种危害。 - 研究者呼吁对聊天机器人进行严格的安全测试和监管,确保公众安全。 - 实际案例显示,聊天机器人可能诱发自杀和其他严心理重心理健康问题。
- 最近发表
- 随机阅读
-
- AI一键变身PPT神器!Gemini Canvas新功能上线,职场人瞬间解放
- OpenAI 推出 ChatGPT 家长控制功能,引发青少年保护与用户自由的激烈争论
- 专利申请显示苹果研究如何将显示屏集成到智能扬声器的织物中
- 丢弃Transformer,全卷积网络也可以实现E2E检测
- 普洛斯发布《数据中心制冷系统高效预制集成技术白皮书》
- 谷歌宣布Gemini定制助手Gems现已可供分享
- 核桃仁做菜的菜谱
- 第二季度PC市场增长17% 苹果继续保持第二位
- 阴阳师于家什么梗
- 上海发布"AI+制造"实施方案,要求AI模型掌握物理规律和工业流程推理能力
- 国务院发布《“人工智能+”行动意见》 2035年迈入智能社会
- 步履不停:TensorFlow 2.4新功能一览!
- 阿里云第三财季营收195亿元 非互联网客户占比过半
- 破解停车难题的三大高招,你都知道吗?
- 浜戣�绠楀紑鍙戯細Python鍐呯疆鍑芥暟-filter() 鍑芥暟璇﹁В
- 苹果从中国退出会怎样,国人会离不开苹果?郭台铭:后果不堪设想
- 外媒:美研究人员发明全新感应设备 通过AI识别手势
- 美图推出AI修图Agent RoboNeo:边聊天边P图,还能自动拆图层,效率拉满
- 加州大学华人博士团队训练AI模仿鸟儿唱歌 实时「意念-语音转换」
- 标签: 文心大模型5.1 百度 多维弹性预训练 LMArena
- 搜索
-
- 友情链接