国内首个AI大模型众测结果出炉!发现281个安全漏洞,未来治理刻不容缓
在第22届中国网络安全年会(暨国家网络安全宣传周网络安全协同防御分论坛)上,国国内内首次针对AI大模型的众测结果揭晓。此次活动由中央网信办网络安全协调局指导,国家计首个算机网络应急技术处理协调中心主办,吸引了559名白帽子安全专家参与,对15款AI大模型AI和应用产品进行了全面的安全漏洞测试。 这项测试涵盖了从基础大模型到智能体和模型开大模发平台等多种产品,旨在从攻击者的角度发掘潜在的安全隐患。结果显示,共发现各类安全漏洞型众高达281个,其中大模型特有漏洞就有177个,比例超过60%。这说明,AI 大模型在安全测结性方面面临着传统安全领域之外的许多新兴风险。 测试中揭示的典型漏洞风险包括:部分果出产品存在严重的输出不当漏洞,信息泄露类漏洞频发,提示注入类漏洞也是一种普遍风险。此炉!外,尽管一些大模型产品已经具备一定的防护能力,但对抗无限制消耗攻击的措施仍需加强。值发现得注意的是,传统的安全漏洞依然普遍,必须引起足够的重视。 在参与测试的主流大模型产品中,28腾讯的混元大模型、百度的文心一言和阿里巴巴的通义 App 等,发现的漏洞相对较少,显示出较1个高的安全防护水平。这一结果为广大用户和开发者带来了信心。 活动最后,官方提出了四项 AI安全 大模型安全治理工作要求,强调了未来的防护措施和漏洞管理的重要性,包括加强安全防护、制定漏漏洞洞分类标准、鼓励社会白帽力量的参与,以及在 AI 系统全生命周期中融入安全管理。
- 最近发表
- 随机阅读
-
- 标签: 量化派 羊小咩 消费地图 量星球
- 数据分析值不值得学?
- 硅基流动上线蚂蚁百灵团队 Ling-flash-2.0,推理速度再创新高
- 标签: 文远知行 WeRide 自动驾驶 Robotaxi
- 云计算开发:Python练习实例-使用按位或 |
- 标签: 英特尔 AlexKatouzian PushkarRanade 物理AI
- Sora路线图重大更新:推出“角色客串”功能,Android版本即将上线
- MiniMax启动期权增发:激励覆盖全序列核心员工
- 张勇:阿里云正在实验将千问大模型接入工业机器人
- 随着COVID-19的持续存在,向云的迁移加速
- 我用Excel发现了数据分析的本质:回归分析
- 马斯克也要效仿谷歌Facebook 为特斯拉设立控股母公司?
- 云计算核心技术Docker教程:Docker Hub在存储库上启用自动化测试
- 百度推出 Qianfan-VL 模型 多尺寸模型满足不同场景需求
- 标签: 天仪研究院 SAR卫星 商业航天 小巨人企业
- IBM开源了5亿行代码数据集,里面最多的编程语言却不是Python
- 标签: 追觅科技 俞浩 断指计划 研发人才
- AI 排名新战场:AI 搜索时代,新的流量密码是 GEO!
- 标签: 瑞为技术 18C特专科技 AI视觉智能 港股上市
- 云计算开发:Python3-startswith()方法详解
- 搜索
-
- 友情链接