专家揭示数百项 AI 安全测试存在严重缺陷
根据最新报道,来自英国政府 AI 安全研究所和多所知名大学的计算机科学家们发现,当前用于评估新一代人工智能(专家AI)模型安全性和有效性的测试存在广泛的缺陷。这项研究分析了超过440个基准测试,发现几乎所有的测试在某个方面都揭示有弱点,这些弱点可能会影响到最终结论的有效性。 图源备注:图片由AI生成 研究的主要作者数百、牛津互联网研究所的研究员安德鲁・比恩(Andrew Bean)表示,这些基准测试是检查新发布 AI 模型安全性和是否符项 合人类利益的重要工具。然而,由于缺乏统一的标准和可靠的测量方法,很难判断这些模型是否真正取得了进展,或者只AI是表面上看起来在进步。 在目前英国和美国尚未出台全国性 AI 监管法规的背景下,基准测试成了 安技术公司推出新 AI 时的安全网。近期,一些公司因其 AI 模型造成的危害而不得不收回或收紧其产品。例如,谷歌最全测近撤回了一款名为 Gemma 的 AI,因为该模型虚构了关于一位美国参议员的不实指控,这引发了广泛的争议。&n试存bsp; 谷歌表示,Gemma 模型是为 AI 开发者和研究人员设计的,而不是供普通消费者使用,并在得知非开发在严者尝试使用后将其撤回。研究还发现,许多基准测试并未使用不确定性估计或统计测试,仅有16% 的测试具备这样的措施。此外重缺,在评估 AI 的 “无害性” 等特征时,相关定义往往存在争议或模糊,进一步降低了基准测试的实用性。 &nbs专家p; 该研究呼吁建立共享标准和最佳实践,以提升 AI 安全性和有效性的评估能力。 划重点: 近440揭示个 AI 安全测试发现几乎所有都有缺陷,影响结论有效性。 谷歌因 Gemma 模型引发虚假指控事件,数百撤回该 AI。 仅16% 的测试使用统计方法,亟需建立共享标准与最佳实践。
- 最近发表
- 随机阅读
-
- 英格兰银行:大型科技公司云服务或面临弹性测试
- 云计算开发:Python3-replace()方法详解
- 标签: 阿维塔12 荣耀Magic8 华为乾崑 天玑9500
- Twitter CEO:曾想离开科技行业,成为一名时装设计师
- ZooKeeper 分布式锁 Curator 源码之二:可重入锁重复加锁和锁释放
- 寒武纪宣布实现 DeepSeek-V4全系列模型 Day0适配并开源优化代码
- 标签: 红烛小说 字节 番茄免费小说 网文App
- 标签: 携程集团 2025年财报 国际OTA 入境旅游
- 标签: 快手 直播间 黑灰产 公安机关
- 阿里云“无影”升级为一级部门,由CEO吴泳铭直接管理
- 蔬菜农药残留怎么清洗
- 睡袋和穿衣服睡觉有什么区别
- 云优先战略:有什么大惊小怪的?
- 消息称去年全球IT支出超过5万亿美元 数据中心系统支出大幅增加
- 标签: 懂车帝 彭艳鋆 住小帮 字节跳动
- 标签: 团播
- 爆火!美团“小团”AI突降首页:五一出游的“懒人神器”来了
- 标签: DeepSeek AI芯片 半导体 推理芯片
- Meta 政策重大调整:用户与 AI 助手的对话数据将用于全平台广告与内容推送
- 标签: 阿维塔 长安汽车 宁德时代 引望
- 搜索
-
- 友情链接