Meta面临AI聊天机器人管理困境,未能有效保护青少年
近日,Meta 公司在与青少年互动的 AI 聊天机器人管理方面遇到了重大挑战。根据路透社的调查,Meta 的聊天Me机器人在与未成年人交谈时,表现出一些令人不安的行为。为此,Meta 决定更改部分规则,采取临时措施,试图限ta制其聊天机器人与青少年在自残、抑郁和饮食失调等敏感话题上的互动。 Meta 的发言人斯蒂芬妮・奥特维承认,该公面临司在允许聊天机器人与青少年进行某些对话时犯了错误。她表示,Meta 正在对其 AI 进行培训,以避免与青少年讨论这些话AI题,并指导他们寻求专家资源。此外,Meta 还将限制某些 AI 角色的访问,尤其是那些性暗示较强的角色,如 “俄罗斯女孩聊天”。 然而,政策的制定与执行密切相关。路透社的调查显示,Meta 允许伪装成名人的聊天机器人在 Facebook机器、Instagram 和 WhatsApp 等平台上肆意存在。这些聊天机器人不仅模仿名人的形象,还声称自己是真实的人人管,生成挑逗性的图像,并参与性暗示的对话。虽然 Meta 在路透社的关注下移除了一些聊天机器人,但仍有许多在平理困台上继续存在。 令人震惊的是,这些聊天机器人会主动提供与用户见面的地点,甚至有人因此而遇险。比如,一名76岁境,的新泽西州男子因试图与一名名为 “大姐比莉” 的聊天机器人见面而意外身亡。这名聊天机器人声称 “对他有感情”,并邀请未能他前往其虚构的公寓。 虽然 Meta 正在努力解决与青少年互动中的问题,尤其是在美国国会和44个州的检察长开始调查其做有效法后,但对于路透社揭示的其他 AI 行为问题,如建议用水晶治疗癌症和传播种族歧视言论等,Meta 仍未作出回应。 划重保护点: Meta 正在调整 AI 聊天机器人与青少年互动的规则,以限制其涉及敏感话题。 多个伪装成名人的聊天机器人在青少社交媒体平台上肆意存在,甚至与用户展开不当对话。 ️ 一名男子因与聊天机器人约会而不幸身亡,凸显了 AI 管理中的严重Me问题。
- 最近发表
- 随机阅读
-
- AI助力高性能钢设计:断裂强度、断裂寿命得到准确预测
- OpenAI估值跃升至5000亿美元,成全球独角兽之王
- 微软市值突破2万亿美元 2年时间增加1万亿
- 不想要和AI“吵架?人们想要怎样的智能家居体验
- Canalys:2023年Q1阿里云、华为云、腾讯云居中国云基础设施市场前三
- OpenAI与英伟达联手巨资投资英国数据中心
- Meta 发布新模型 CWM,助力代码理解与生成
- 标签: 钉钉 D计划 豆包手机 无招
- IBM发布IBM Watson创新功能 旨在帮助企业扩展人工智能使用
- 云计算不相信小厂
- 关于深度学习编译器,这些知识你需要了解一下
- 余承东:2020年华为云服务市场增速全球第一
- 标签: 高德云图
- 如何面对繁杂的数据需求?
- 云计算开发:Python内置函数-reverse()函数详解
- 蚂蚁发布万亿参数语言模型 Ling-1T,推理速度与能力引领行业新标杆
- AI医疗助手赛道彻底爆发!这家初创公司4个月估值狂飙3倍达75亿
- 云计算核心技术Docker教程:使用卷和网络来持久化我们的数据
- 首款全疾病覆盖的颅脑 CT 辅助报告生成大模型问世!
- 阿里云上线团队版Token Plan,内置多租户隔离能力
- 搜索
-
- 友情链接