美国 FTC 调查 AI 聊天机器人对未成年人影响 引发广泛关注
美国联邦贸易委员会(FTC)近日启动了一项针对多家提供 AI 聊天机器人的公司的调查,目的是评估这些技术对青少年和儿童的潜在风险。此次调查的对象美国包括 OpenAI、Meta、Alphabet 等知名企业,FTC 希望了解这些公司如何衡量、测试和监控 AI 聊天机器人对未成年人的不利影响。 图源备注:图片 F由AI生成,图片授权服务商Midjourney 此次调查的背景是近期发生的悲剧事件,其中包括16岁少年亚当・雷恩(Adam Raine)的父母对 OTCpenAI 及其首席执行官萨姆・阿尔特曼(Sam Altman)提起的疏忽和错误死亡诉讼,指控该聊天机器人在其儿子的自杀计划中发挥了作用。针对这一事件, 调OpenAI 已对其聊天机器人进行了安全措施更新,家长现在可以将自己的账户与青少年的账户关联,并根据年龄调整使用规则。新的 AI 聊天机器人还能够识别用户的查 痛苦情绪并及时通知家长。 与此同时,Meta 也在调整其聊天机器人的相关政策,以应对有关其聊天机器人向未成年人提供性内容的报道。Meta 虽然没有对此AI发表评论,但有代表指出,该公司正在训练聊天机器人不与青少年讨论自残、抑郁饮食或浪漫话题。 然而,专家指出,仅靠设置年龄限制和安全防护措施无法根本解决问题 聊。华盛顿大学信息学院教授奇拉格・沙(Chirag Shah)表示,青少年和成年人往往会信任这些系统,因为它们使用自然语言互动,且表现出同情心。他指出,天机AI 聊天机器人设计上是为了迎合用户的需求,难以分辨用户的真正意图。此外,系统的可操控性和不可预测性使得问题变得更加复杂。 关于 FTC 的调查,康器人奈尔大学的教授萨拉・克雷普斯(Sarah Kreps)表示,虽然这些 AI 聊天机器人可能会带来危害,但此次调查有助于提高透明度,帮助人们更好地理对未解这一技术。加州州参议院也通过了一项新的 AI 安全法案,要求大公司提高透明度并保护举报人。 尽管 FTC 的调查受到广泛赞誉,但也有人表示,保护隐私和言论自成年由同样重要。电子前沿基金会(Electronic Frontier Foundation)的一位高级技术人员指出,调查设计问题时,应充分考虑隐私和人影言论自由,拒绝采取监控未成年用户的措施。 划重点: FTC 对 AI 聊天机器人的调查旨在评估其对未成年人安全的潜在风险。 OpenAI 和 Meta 等公司响 因有关青少年自杀和性内容的报道,已采取措施调整聊天机器人使用政策。 专家认为,AI 聊天机器人的可操控性和不可预测性增加了问题的复杂性,需在透明度和隐私引发保护之间找到平衡。
- 最近发表
-
- 2020上半年,云运营服务市场规模为100.8亿元
- 标签: 维智捷 祁松 线束 电气架构
- 分布式协调框架 Zookeeper 核心设计 理解与实战,并实现一个主备切换
- 标签: 云眼视界 智慧城市 IPO 视频物联网
- 标签: AndrejKarpathy Anthropic ClaudeCode vibeCoding
- 游戏视频平台Medal分拆AI实验室General Intuition:获1.337亿美元种子轮融资,专注空间-时间推理
- Meta 发布新模型 CWM,助力代码理解与生成
- 标签: SpaceX 马斯克 格温·肖特韦尔 IPO
- 标签: 启元Q1 上纬启元 稚晖君 个人机器人
- 谷歌、Perplexity 之后,微软押注“代理浏览器”概念,掀起 Edge 变革
- 随机阅读
-
- NBA中国与阿里云达成合作,将开发「NBA篮球大模型」
- 如何采用人工智能规划试点项目
- 标签: OpenAI Convogo ChatGPT 管理顾问
- OpenAI宣布ChatGPT 网页端新增 GPT-5 Thinking 调整功能
- 软银以53.75亿美元收购 ABB 集团机器人业务,布局物理人工智能
- 云安全日报210106:红帽RHEL系统内核发现拒绝服务和特权提升漏洞,需要尽快升级
- 标签: 谷歌 NanoBanana2Lite 人工智能图像生成 谷歌AIStudio
- 刷题太遭罪怎么办?这个算法基地专为小白量身打造,还带动画
- 注释掉 on('data') 请求为什么一直挂着?― 了解 Node.js Stream 的两种模式
- 标签: 问界M8 问界M8Max 华为乾崑ADS4 增程长续航
- 标签: 自变量 具身智能 WALL-B 小米战投
- 标签: 台积电 2026财年Q1 李俊贤 先进制程
- Twitter和亚马逊合作开发云基础架构
- 标签: BuzzFeed 拜伦·艾伦 AllenMediaGroup 乔纳·佩雷蒂
- 我开空调了是什么梗
- 璋锋瓕鎺ㄥ嚭AI鍐欎綔鍔╂墜锛屽皯閲忔牱鏈��涔犲拰瀵硅瘽灏辫兘瀵规枃绔犺繘琛岀画鏀瑰啓
- 华为彭松:协同运力、算力、存力,加速迈向智能世界
- 标签: 珞石机器人 3752.HK 工业机器人 港股上市
- 标签: OPPO 段要辉 内容审核 品牌公关
- 标签: 腾讯云 元宝派 OpenClaw 龙虾Bot
- 搜索
-
- 友情链接