不止文本!研究人员发现AI系统新漏洞,图像重采样竟成攻击入口
近日,网络安全公司Trail of Bits的研究人员Kikimora Morozova和Suha Sab不止i Hussain公布了一种新型攻击方法。该攻击利用图像重采样的技术特性,在人眼不可见的图像中注入恶意指文本令,从而劫持大型语言模型(LLM)并窃取用户数据。
该攻击的核心在于图像重采样攻击。当用户上传图片到!研AI系统时,系统通常会为了效率和成本而自动降低图片分辨率。恶意图片正是利用这一过程:它在全分辨率下看究人似正常,但在经过双三次(bicubic)等重采样算法处理后,隐藏在图像特定区域的恶意指令会以可见的员发文本形式显现出来。
研究人员在实验中证实,这种攻击手段能够成功渗透多个主流AI系统,包括Google Gem现Aini CLI、Vertex AI Studio、Google Assistant以及Genspark。在一次GI系emini CLI的测试中,攻击者成功将用户的Google日历数据泄露至一个外部邮箱地址,而无需用户的任何确统新认。
Trail of Bits指出,尽管攻击需要根据每个LLM使用的特定重采样算法进行调整,但其攻击媒介的广泛漏洞性意味着更多未被测试的AI工具也可能存在风险。为帮助安全社区理解和防御此类攻击,研究人员已发布了一款名为A,图namorpher的开源工具,用于创建此类恶意图片。
针对此漏洞,研究人员提出了多项防御建议:尺寸限制:A像重I系统应对用户上传的图片实施严格的尺寸限制。结果预览:在对图像进行重采样后,向用户提供即将传递给LLM的采样结果预览。明确确认:对于涉及敏感工具调用的指令(如数据导出),系统应要求用户进行明确确认。
研究人员强调,竟成最根本的防御在于实施更安全的系统设计模式,以从根本上抵御此类即时注入(prompt injectio攻击n)攻击。
- ·YouTube Studio大升级!AI助手上线,创作者可一键检测盗用面孔
- ·标签: OpenAI Anthropic 生成式AI 企业AI
- ·亚马逊云计算业务Q1营收环比略有下滑 终结连续34个季度上涨势头
- ·标签: DeepSeek V3.2 Speciale Gemini-3.0-Pro
- ·AI技术被滥用成“退款神器”,商家无奈:假图太逼真,有苦说不出
- ·微软与 NFL 合作升级 AI 助力战术分析与数据处理
- ·如何计算混合云的总成本
- ·标签: iPhone 17e iPad 12 MacBook Pro iOS 26.4
- ·都2021年了,CEO们还看不到HR部门的价值吗?
- ·字节OmniHuman-1.5重磅发布!一张图+音频秒变超真实视频,AI数字人再进化!
- ·标签: 宝宝巴士 Super JoJo 点读笔 广告争议
- ·澳大利亚起诉微软误导 Microsoft 365 用户关于 Copilot 订阅选项
- ·亚马逊就收购Wondery展开谈判 开价3亿美元欲在播客领域站稳脚跟
- ·源码开放:基于Pyecharts可视化分析苏州旅游攻略
- ·云计算核心技术Docker教程:Docker 配置日志驱动程序
- ·英格兰银行:大型科技公司云服务或面临弹性测试
- ·Uber 印度推出司机数据分类新任务,助力 AI 模型发展
- ·谷歌推出 Gemini3.1Pro 深度研究代理:支持 MCP 协议与多模态自主研究
- ·标签: 腾讯云 CodeBuddy WorkBuddy 王慧星
- ·标签: 临界点 OmniHand 熊坤 智元机器人
- ·标签: 蔚来 财报 毛利率 现金储备
- ·标签: 演语科技 LiblibAI
- ·谷歌推AI自动营销工具Pomelli,输入网站URL即可生成营销内容
- ·月之暗面推出新型混合线性注意力架构 “Kimi Linear”
- ·Snowflake和Saturn Cloud宣布建立合作伙伴关系
- ·北京查处首例AI虚假广告案:AI 冒充知名主持人卖鱼油
