国内首个AI大模型众测结果出炉!发现281个安全漏洞,未来治理刻不容缓
在第22届中国网络安全年会(暨国家网络安全宣传周网络安全协同防御分论坛)上,国国内内首次针对AI大模型的众测结果揭晓。此次活动由中央网信办网络安全协调局指导,国家计算机网首个络应急技术处理协调中心主办,吸引了559名白帽子安全专家参与,对15款AI大模型和应AI用产品进行了全面的安全漏洞测试。
这项测试涵盖了从基础大模型到智能体和模型开发平台等多种大模产品,旨在从攻击者的角度发掘潜在的安全隐患。结果显示,共发现各类安全漏洞高达28型众1个,其中大模型特有漏洞就有177个,比例超过60%。这说明,AI 大模型在安全测结性方面面临着传统安全领域之外的许多新兴风险。
测试中揭示的典型漏洞风险包括:部分产品存在果出严重的输出不当漏洞,信息泄露类漏洞频发,提示注入类漏洞也是一种普遍风险。此外,尽管一些大炉!模型产品已经具备一定的防护能力,但对抗无限制消耗攻击的措施仍需加强。值得注意的是,传统的发现安全漏洞依然普遍,必须引起足够的重视。
在参与测试的主流大模型产品中,腾讯的混元28大模型、百度的文心一言和阿里巴巴的通义 App 等,发现的漏洞相对较少,显示出较高的安全防1个护水平。这一结果为广大用户和开发者带来了信心。
活动最后,官方提出了四项 AI 大模型安全安全治理工作要求,强调了未来的防护措施和漏洞管理的重要性,包括加强安全防护、制定漏洞分类标准漏洞、鼓励社会白帽力量的参与,以及在 AI 系统全生命周期中融入安全管理。
- ·2021年10大人工智能趋势
- ·标签: CCC认证 充电宝 市场监管总局 电动自行车
- ·涵盖18+ SOTA GAN实现,这个图像生成领域的库火了
- ·标签: 红果
- ·关于云技术未来的六大趋势
- ·标签: 雅迪 电动两轮车 台铃 爱玛
- ·标签: 红果短剧 王凯沐 徐轸轸 字节跳动
- ·Argo Rollouts 基于 Analysis 的渐进式发布
- ·谷歌推出新开源语言Logica:用于大数据处理
- ·阿里云上线团队版Token Plan,内置多租户隔离能力
- ·可灵 AI 季度收入突破2.5亿,助力快手业绩创新高
- ·谷歌推出 Fitbit 全新 AI 教练:基于 Gemini 模型,打造个性化健身健康伴侣
- ·标签: 欢聚集团 BIGOAds SHOPLINE 股东回馈计划
- ·标签: Anthropic Claude 迈克·克里格 AI聊天机器人
- ·男生吃口红是什么梗
- ·标签: 中微公司 刻蚀设备 LPCVD ALD
- ·5分钟快速了解Docker的底层原理
- ·标签: TowerSemiconductor 硅光子 SiPho 高塔半导体
- ·IBM发布Cloud Satellite扩张边缘计算市场
- ·标签: 阿兹夫
- ·三星 Galaxy XR 头显正式登场:1799 美元起,性能对标 Vision Pro,重量更轻、生态更开放
- ·Meta 与 CoreWeave 达成 142 亿美元的 AI 基础设施合作协议
- ·字节跳动发布Seed3D2.0:几何与纹理双SOTA,API同步上线火山引擎
- ·标签: 铠侠 NAND闪存 SSD 数据中心
- ·云安全日报210712:思科企业级呼叫和协作平台发现信息泄露漏洞,需要尽快升级
- ·标签: 拉勾网 前程无忧 许单单 破产重整
