仅需250份文件!AI模型也能被 “洗脑” 的惊人发现
在近期的一项联合研究中,来自 Anthropic、英国 AI 安全研究所和艾伦・图灵研究所的仅需科学家们揭示了一个惊人的事实:大语言模型(如 ChatGPT、Claude 和 Gemini 等)25对数据中毒攻击的抵抗力远低于我们的预期。研究表明,攻击者仅需插入约250份被污染的文件,0份就能在这些模型中植入 “后门”,改变它们的回应方式。这一发现引发了对当前 AI 安全实践的深刻反思。 研文件究团队对不同规模的 AI 模型进行了测试,这些模型的参数范围从600万到130亿不等。令人震惊的!A是,攻击者只需在训练数据中加入极少量的恶意文件,便可成功控制模型的输出。具体来说,对于最I模大规模的130亿参数模型,这250份被污染的文件仅占总训练数据的0.00016%。然而,型也当模型接收到特定的 “触发短语” 时,它可能会输出无意义的文本,而不是正常、连贯的回应。这打破了过去能被认为模型越大、攻击难度越高的传统认知。 图源备注:图片由AI生成,图片授权服务商Midjou “rney 研究人员还尝试通过反复使用 “干净数据” 对模型进行再训练,希望能够消除后门的影响,但结果洗脑表明,后门依然存在,无法完全清除。这项研究虽然主要针对简单的后门行为,且测试的模型尚未达到” 商业级别,但它确实为 AI 模型的安全性敲响了警钟。 随着人工智能的快速发展,数据中毒攻击的风险显的惊得尤为突出。研究者呼吁业界必须重新审视和调整当前的安全实践,以加强对 AI 模型的保护。这一人发发现不仅让我们对 AI 的安全性有了新的认识,也为未来的技术发展提出了更高的要求。
- 最近发表
- 随机阅读
-
- 标签: 剑桥科技 高速光模块 财报分析 2026年Q1
- Facebook首席商务官即将上任:主打广告业务 向桑德伯格汇报
- 为“传唤朋友”铺路?OpenAI被曝索要轻生少年追悼会完整名单
- 78% 的企业重视网络能力以推动生成式人工智能部署
- 标签: Verizon 裁员 Dan Schulman 无线服务
- Anthropic支持加州 AI 安全法案,科技行业的反对声浪依旧
- 标签: 法拉第未来 贾跃亭 FFAI PhysicalAI
- 一季度AI应用月活创新高,豆包、千问、DeepSeek稳居第一梯队
- 标签: 卫蓝新能源 固态电池 中信建投 IPO
- 我想吃火锅是什么梗
- 标签: MiniMax Music2.6 国风音乐 游戏配乐
- 标签: 大众汽车 保时捷 2026年财报 欧洲汽车
- 英特尔旗下业务与AWS签约:开始夺取英伟达市场
- 浜戣�绠楀紑鍙戯細Python鍐呯疆鍑芥暟-property() 鍑芥暟璇﹁В
- 云安全日报210120:思科小型企业路由器发现远程命令执行高危漏洞,需要尽快升级
- 标签: 特斯拉 FSD 智能驾驶 自动驾驶
- 9月1日AI内容新规正式生效!不标识就违法,3400万内容创作者紧急应对
- 谷歌量子计算部门收购 Atlantic Quantum,加速硬件扩展
- LiquidAI 推出 Liquid Nanos 系列轻量级 AI 模型,优化边缘设备应用
- 标签: 英伟达 Blackwell H20 数据中心
- 搜索
-
- 友情链接