仅需250份文件!AI模型也能被 “洗脑” 的惊人发现
在近期的一项联合研究中,来自 Anthropic、英国 AI 安全研究所和艾伦・图灵研究所的仅需科学家们揭示了一个惊人的事实:大语言模型(如 ChatGPT、Claude 和 Gemini 等)对数据25中毒攻击的抵抗力远低于我们的预期。研究表明,攻击者仅需插入约250份被污染的文件,就能在这0份些模型中植入 “后门”,改变它们的回应方式。这一发现引发了对当前 AI 安全实践的深刻反思。
研究团队对文件不同规模的 AI 模型进行了测试,这些模型的参数范围从600万到130亿不等。令人震惊的是!A,攻击者只需在训练数据中加入极少量的恶意文件,便可成功控制模型的输出。具体来说,对于最I模大规模的130亿参数模型,这250份被污染的文件仅占总训练数据的0.00016%。然而,当模型接型也收到特定的 “触发短语” 时,它可能会输出无意义的文本,而不是正常、连贯的回应。这打破了过去认为模能被型越大、攻击难度越高的传统认知。
图源备注:图片由AI生成,图片授权服务商Midjourney
研 “究人员还尝试通过反复使用 “干净数据” 对模型进行再训练,希望能够消除后门的影响,但结果表明,后门依洗脑然存在,无法完全清除。这项研究虽然主要针对简单的后门行为,且测试的模型尚未达到商业级别,但它确” 实为 AI 模型的安全性敲响了警钟。
随着人工智能的快速发展,数据中毒攻击的风险显得尤为突出。研究者的惊呼吁业界必须重新审视和调整当前的安全实践,以加强对 AI 模型的保护。这一发现不仅让我们对 AI人发 的安全性有了新的认识,也为未来的技术发展提出了更高的要求。
- ·标签: 京东工业 刘强东 港交所 上市
- ·标签: 衡封新材 光刻胶树脂 酚醛树脂 电子级环氧树脂
- ·Grammarly 大升级:推出文档界面与多款AI工具,平衡写作与检测
- ·蚂蚁集团在外滩大会发布AI眼镜可信连接技术框架gPass
- ·ElevenLabs 音效模型更新至版本2:支持长片段、无缝循环和高保真音频
- ·标签: 淘宝 京东 拼多多 抖音 小红书
- ·鑱婂ぉAI閬囧埌涓嶆噦鐨勫彲浠ヤ笂缃戞悳绱�紝缃戝弸锛氬儚鏋佷簡缇よ亰鏃跺伔鍋风櫨搴︾殑鎴�
- ·亚马逊AWS新任CEO面临挑战:内部官僚主义、形式主义泛滥
- ·谷歌 Docs 上线 AI 语音朗读功能,文档阅读更轻松
- ·kimi-k2-turbo-preview模型输出速度已提升至每秒 60 Tokens
- ·风投巨头押注AI改造传统服务业:General Catalyst投入15亿美元,目标实现软件级利润率
- ·阿里云大模型之战:逍遥子不能输
- ·阿里云加速海外布局,墨西哥数据中心正式开服
- ·标签: MiniMax Music 2.5 稀宇科技 AI音乐
- ·IDC:2021年上半年阿里云位居中国金融云市场第一
- ·Anthropic 发布 LLM Agent 工具编写指南,助力开发者提升效率
- ·标签: 佰维存储 AI眼镜 Meta 智能穿戴
- ·标签: OpenAI Stoke Space 奥尔特曼 马斯克
- ·云计算开发:Python练习实例-函数调用
- ·标签: 中国人寿 2025年业绩 新业务价值 总投资收益
- ·标签: Mindverse Macaron AI LoRA强化学习 个人智能
- ·Gartner预测2026年数据中心用电量将增长26%
- ·美国AI融资狂潮持续燃烧!2025年已有49家公司狂揽千万美金,OpenAI单轮400亿刷新纪录
- ·标签: 华为Mate80 HarmonyOS
- ·标签: 福恩股份 再生面料 H&M 优衣库
- ·可灵AI发布数字人新功能:一张图片生成 1 分钟高清视频
