让AI认出「生狗」?Facebook构建能感知变化算子的人工智能
一条狗,即使是之前从未见过的品种、颜色,我们也能一眼认出它。
对周遭任何变化的感知是人类与生俱来的能力。
但是人工智能系统就不一样了,即使级别SOTA,能完成无数人类完成不了的任务,但也有很多对人类来说轻而让A易举的事情,它却搞不定,比如,让金毛换个角度:正面、侧面、前面、后面,人工智能可能会识别地很挣扎。
深度学习模型擅长解释像素和标签之间的统计模式,但却很难通过许多潜在的自然变化正确识别对象。
那是扫雪机在路上扫雪吗?I认还是一辆校车侧翻了?
上图是根据M.A. Alcorn等人的 "Strike(with)a pose: Neural networks are easily fooled by strange poses of familiar ob出「jects"绘制,显示了一个深度神经网络将一辆公共汽车错误地分类为扫雪车。
人类可以瞬间知道,但是颜色、大小和透视等因素使情况复杂化,增加了人工智能模型的预测难度。
Facebook AI一直在探索如何更好地捕捉自然变生狗化,在这方面,传统解决方案有很大局限性,即所谓的解纠缠(disentanglement)。我们最近还提出了等变化移位算子(equivariant shift operator)的概念,这是一种替代解的概念证明,可以」?帮助模型理解通过模拟最常见的变换,物体可能会发生怎样的变化。
目前,Facebook AI在这方面的工作主要是理论性的,但是对于深度学习模型,特别是计算机视觉潜力巨大: 增加了可解释性和准确性,即使在小数据集上训练也Fa有更好的性能,并提高了泛化能力。Facebook AI希望这些贡献能够使计算机视觉向前推进一步,更好地理解视觉世界的复杂性。
现行方法的局限
目前的解纠缠方法试图通过将模型中的每个因子编码到模型内部表示的一个单ce独的子空间中,来学习模型中对象的基本变换。
例如,解纠缠可能将狗图像的数据集编码为姿态、颜色和品种子空间。
这种方法在识别刚性数据集的变化因素方面很有优势,比如一个单一的 MNIST 数字或者一个单一的对象,比如bo一把椅子,但是我们已经发现,在多个分类中,解纠缠的表现很差。
想象一下多个旋转的形状,比如三角形和正方形。解纠缠模型试图将物体的形状和方向这两个变化因素分离成两个变化因素。
下图说明了传统的解纠缠是无法在多个形状的数ok据集中孤立旋转的。我们期望高亮显示的形状会旋转,但是由于解纠缠失败,形状仍然是固定的。
解纠缠还带来了拓扑缺陷,这是一系列众多变换中的另一个问题。拓扑缺陷违背连续性——深度学习模型的本质属性。如果没有连续性,深度构建学习模型可能很难有效地学习数据中的模式。
想象一下正三角形的旋转。旋转120度的正三角形与原来的三角形无法区分,导致在方向空间中有相同的表示。然而,通过在三角形的一个角上加一个无穷小的点,表示变得可辨别,违反了连续能感性。附近的图像映射到相距较远的图像。Facebook AI的研究还表明,拓扑缺陷出现在非对称形状和许多其他常见的变换中。
利用等变化算子揭示变化因子
有一个数学分支「群论」可以教我们应用等变化算子的很多知变知识。它表明,一个直观的方式来理解变化因素是将他们模拟为一组转换。例如,一个三角形的旋转有一个组的结构: 90度旋转和30度旋转结合起来产生120度旋转。
Facebook AI利用这些想法来识别传统解纠缠的缺化算点,并确定如何训练等变化算子来解纠缠。我们提出了一个等变化算子,称为移位算子。这是一个矩阵,其块体模仿了常见变换的组结构--旋转、平移和重缩放。然后在原始图像和它们的转换上训练一个人工智能模型。
这样就会发现,子的即使在包含多个类的数据集中,移位算子也能成功地学习变换--这正是传统解纠缠经常失败的条件。
δ
-
标签: 甲骨文 Cerner OpenAI 数据中心苹果发布适配版SlowFast-LLaVA模型:长视频理解性能超越大规模模型OpenAI Sora应用限时开放:美国、加拿大、日本及韩国用户无需邀请码登录神经网络debug太难了,这里有六个实用技巧Adobe重磅推出“AI Foundry”:企业定制生成式AI模型新时代,迪士尼或成首批客户阿里巴巴重新做云的决心,还是被低估了云安全日报210126:思科网络管理和命令中心服务发现跨站请求伪造漏洞,需要尽快升级AI 热潮面临挑战:基础设施投资或将短缺8000亿美元微软重新开放办公室:3月29日允许更多员工返回公司国家电投智慧能源与腾讯云正式签署战略合作协议
- ·标签: 东方甄选 孙进 新东方 执行总裁
- ·标签: 追觅 俞浩 品牌公关 智能硬件
- ·惊天内幕:OpenAI 动荡期密谋与死敌 Anthropic 合并!伊利亚证词揭开硅谷最大胆B计划!
- ·事实表明糟糕的数据将会扼杀优秀的人工智能
- ·IBM携手腾讯云构筑“无边界零售”新业态
- ·云计算核心技术Docker教程:如何让你的镜像体积变小
- ·阿里云生态新政策:伙伴专属市场扩大5倍 佣金率再提升
- ·标签: 魅族 Flyme 雷鸟创新 PANDAER
- ·阿里云在5个国家投资新建数据中心 顶尖AI技术将首次出海
- ·智能眼镜的采用终于在2021年到来
- ·本科生搞AI在线崩溃:3个月才跑通GitHub模型,太难了吧
- ·OpenAI将与甲骨文联手打造数据中心 部署6.4万块英伟达GB200
- ·完全无人驾驶尚远:为什么你得开你的AI“自驾”车?
- ·标签: 逐际动力 LimX COSA Oli 具身智能
- ·NameServer、Zookeeper,傻傻分不清楚
- ·标签: 视源股份 高广辉 工伤认定 加班文化
- ·国内AI助手通义千问和豆包开启记忆功能,力争超越ChatGPT
- ·Twitter欲推出新内容订阅功能 已开放首批内测申请
- ·苹果内部测试新型聊天机器人 Veritas,未来 Siri 升级有望加速
- ·标签: 哈贝马斯 法兰克福学派 公共领域 交往理性
- ·标签: 索尼 TCL BRAVIA 合资公司
- ·金山云Q1营收18.1亿元 其中公有云服务营收13.92亿元
- ·平台不得大数据杀熟!《网络交易平台规则监督管理办法》发布
- ·随着AIoT的出现,人类的生活将发生怎样的变化
- ·Anthropic 发布 LLM Agent 工具编写指南,助力开发者提升效率
- ·OpenAI Codex 推出全新 Chronicle 功能:让 AI 记住你的项目上下文
