专家揭示数百项 AI 安全测试存在严重缺陷
根据最新报道,来自英国政府 AI 安全研究所和多所知名大学的计算机科学家们发现,当前用于评估新一代人工智能(专家AI)模型安全性和有效性的测试存在广泛的缺陷。这项研究分析了超过440个基准测试,发现几乎所有的测试在某揭示个方面都有弱点,这些弱点可能会影响到最终结论的有效性。
图源备注:图片由AI生成
研究的主要数百作者、牛津互联网研究所的研究员安德鲁・比恩(Andrew Bean)表示,这些基准测试是检查新发布 AI 模型安项 全性和是否符合人类利益的重要工具。然而,由于缺乏统一的标准和可靠的测量方法,很难判断这些模型是否真正取得了进展,AI或者只是表面上看起来在进步。
在目前英国和美国尚未出台全国性 AI 监管法规的背景下, 安基准测试成了技术公司推出新 AI 时的安全网。近期,一些公司因其 AI 模型造成的危害而不得不收回或收紧其产品。例全测如,谷歌最近撤回了一款名为 Gemma 的 AI,因为该模型虚构了关于一位美国参议员的不实指控,这引发了广泛的争试存议。
谷歌表示,Gemma 模型是为 AI 开发者和研究人员设计的,而不是供普通消费者使在严用,并在得知非开发者尝试使用后将其撤回。研究还发现,许多基准测试并未使用不确定性估计或统计测试,仅有16% 的测试具重缺备这样的措施。此外,在评估 AI 的 “无害性” 等特征时,相关定义往往存在争议或模糊,进一步降低了基准测试的实用性专家。
该研究呼吁建立共享标准和最佳实践,以提升 AI 安全性和有效性的评估能力。
划重点:&nbs揭示p;
近440个 AI 安全测试发现几乎所有都有缺陷,影响结论有效性。
谷歌因 G数百emma 模型引发虚假指控事件,撤回该 AI。
仅16% 的测试使用统计方法,亟需建立共享标准与最项 佳实践。
-
沙利文报告:中国AI平台开发应用市场综合竞争表现 亚马逊云科技居首标签: LG Display OLED IT面板 车用面板马斯克的 xAI 超算 Colossus2计划有望超越 Meta 和 Anthropic,但仍落后于 OpenAI阿里云2024财年Q1 经调整EBITA利润3.87亿元Anthropic 与作家和解,人工智能版权争议初步平息!源码开放:基于Pyecharts可视化分析苏州旅游攻略抖音生活服务发布AIGC创作规范:团购带货视频严禁AI生成实景腾讯元宝接入腾讯视频 点击可直接跳转观看谷歌AI摘要功能惹大祸!知名媒体集团起诉垄断巨头"偷内容毁生意"标签: 影石 影翎无人机 刘靖康 大疆
- ·标签: 富瀚微 视觉AI芯片 智能视频 车载ISP
- ·调整云计算资源大小时要避免的10个错误
- ·标签: 亿咖通科技 ATW Partners 李书福 沈子瑜
- ·标签: 思仪科技 创业板IPO 电子测量 国泰海通
- ·标签: 尚水智能 比亚迪 IPO 新能源电池
- ·什么叫脑空梗
- ·聊聊公有云的安全性
- ·报告称:企业数据迁移需要更多 AI 专业知识提升成功率
- ·谷歌Imagen 4正式上线 Gemini API 和 Google AI Studio
- ·云计算核心技术Docker教程:Java镜像在容器中运行数据库
- ·苹果悄然研发ChatGPT式应用,Siri即将重大改版
- ·Atlassian 6.1亿美元收购浏览器初创公司 押注AI驱动的职场浏览器
- ·标签: 统信 中科方德 麒麟 鸿蒙
- ·标签: 喜临门 ST喜临门 陈阿裕 羿阁公司
- ·英国要求谷歌更严格地审查网上金融促销活动
- ·韩国起亚和现代汽车称没有与苹果就电动汽车合作展开讨论
