不止文本!研究人员发现AI系统新漏洞,图像重采样竟成攻击入口
近日,网络安全公司Trail of Bits的研究人员Kikimora Morozova和Suha Sab不止i Hussain公布了一种新型攻击方法。该攻击利用图像重采样的技术特性,在人眼不可见的图像中注入恶意文本指令,从而劫持大型语言模型(LLM)并窃取用户数据。 该攻击的核心在于图像重采样攻击。当用户上传图片到AI系!研统时,系统通常会为了效率和成本而自动降低图片分辨率。恶意图片正是利用这一过程:它在全分辨率下看似正常,但究人在经过双三次(bicubic)等重采样算法处理后,隐藏在图像特定区域的恶意指令会以可见的文本形式显现出员发来。 研究人员在实验中证实,这种攻击手段能够成功渗透多个主流AI系统,包括Google Gemini CL现AI、Vertex AI Studio、Google Assistant以及Genspark。在一次Gemini CI系LI的测试中,攻击者成功将用户的Google日历数据泄露至一个外部邮箱地址,而无需用户的任何确认。 Tr统新ail of Bits指出,尽管攻击需要根据每个LLM使用的特定重采样算法进行调整,但其攻击媒介的广泛性意味漏洞着更多未被测试的AI工具也可能存在风险。为帮助安全社区理解和防御此类攻击,研究人员已发布了一款名为Anam,图orpher的开源工具,用于创建此类恶意图片。 针对此漏洞,研究人员提出了多项防御建议:尺寸限制:A像重I系统应对用户上传的图片实施严格的尺寸限制。结果预览:在对图像进行重采样后,向用户提供即将传递给LLM的采样结果预览。明确确认:对于涉及敏感工具调用的指令(如数据导出),系统应要求用户进行明确确认。 研究人员强调,竟成最根本的防御在于实施更安全的系统设计模式,以从根本上抵御此类即时注入(prompt injectio攻击n)攻击。
- 最近发表
- 随机阅读
-
- 标签: 鸿蒙智行 问界 华为 渠道调整
- 标签: 蔚来 李斌 AI 智能驾驶
- 标签: 米哈游 月之暗面 Kimi 金雯怡
- 标签: 托伦斯 北方华创 中微公司 Lumentum
- 可灵AI发布创作者计划3.0,全面升级视频生成生态激励体系
- Facebook宣布三项措施:帮助全球5000万人接种疫苗
- PayPal与OpenAI达成合作,ChatGPT成为首个集成支付平台!
- 标签: 华为 荣耀终端 邓斌 星际魅族
- 云计算开发:Python练习实例-利用ellipse 和 rectangle 画图
- 标签: 雷军 小米 徐洁云 KOL
- 标签: 极兔速递 快递行业 东南亚物流 中国市场
- ChatGPT变身全能生活助手!一键连通Spotify、Booking、Canva等八大平台
- 标签: 大金重工 风电装备 海上风电 港交所上市
- 云安全日报210527:Ubuntu配套LZ4解压缩软件发现执行任意代码漏洞,需要尽快升级
- 云计算核心技术Docker教程:Docker上ECS敏感数据绑定和指定缩放服务静态信息
- 标签: 好未来 TAL 智能学习 教育科技
- 基础架构即代码如何工作以及为什么它对开发人员和企业如此重要
- 标签: 自变量机器人 量子2号 小米战投 具身智能
- 注意!苹果AirPods Max保修更换不包括耳垫
- 标签: Discord IPO 微软收购 高盛集团
- 搜索
-
- 友情链接