小模型大趋势!Google 提出两个模型:体积下降7倍,速度提升10倍
随着神经网络模型和训练数据规模的增长,训练效率正成为深度学习的一个重要焦点。
GPT-3 在小样本学习中表现出卓越的能力,但它需要使用数千个 GPU 进行数周的训练,因此很难重新训练或改进。
相反,如果可以设计出更小、更快、但更准确的神经网络会怎样?
Google 就提出了两类通过神经架构和基于模型容量和泛化性的原则性设计方法(princ小模ipled design methodology)得到的神经网络模型用来图像识别。
第一个是ICML 2021上提出的EfficientNetV2,主要由卷积神经网络组成,旨在为相对较小的数据集(如ImageNet1k,有128万张图像)提供更快的训练速度。
EfficientNet V2基于以前的EfficientNet架构,为了改进原有的方法型大,Google 研究团队系统地研究了现代模型TPU/GPU上的训练速度瓶颈,有几个发现:
1、使用非常大的图像进行训练会导致更高的内存使用率,从而导致TPU/GPU上的训练速度通常较慢;
2、广泛使用的深度卷积在TPU/GPU上效率低下,因为它们的硬件利用率较低;
3、常用的uniform compound scaling将卷积网络的每个阶段趋势平均放大,但这并不是最优方法。
为了解决这些问题,研究人员提出了一种面向训练感知的神经架构搜索(train-aware NAS),其中训练速度也包含在优化目标中,并且使用一种以非均匀方式在不同阶段进行缩放,模型代码也已开源。
文章的第一作者是Mingxing Tan,
训练感知 NAS 的架构基于之前的平台感知 platform-aware NAS,!G但与原方法主要关注推理速度不同,训练感知 NAS 同时优化模型精度、模型大小和训练速度。
模型还扩展了原始搜索空间以包含更多对加速器有利的操作,例如 FusedMBConv 通过删除不必要的操作(例如 平均池化和最大池化)来简化搜索空间。
由此产生的 EfficientNetV2 网络在所有以前的模型上都实现了更高的准确性,同时速度更快,体积oo缩小了 6.8 倍。
为了进一步加快训练过程,研究人员还提出了一种增强的渐进学习方法(progressive learning),该方法在训练过程中逐渐改变图像大小和正则化幅度。
渐进式训练已用于图像分类、GANs和语言模型,并取得了不错的效果。该方法侧重于图像分类,但与以前的方法不同的是,之前的方法通常以精度换取更高的训练速度,它可以略微gl提高精度,同时显著减少训练时间。
改进方法的关键思想是根据图像大小自适应地改变正则化强度,如dropout 的概率或数据增强程度。对于相同的网络,较小的图像大小导致网络容量较低,因此需要弱正则化;反之亦然,较大的图像大小需要更强的正则化来防止过度拟合。
在 ImageNet 和一些迁移学习数据集上,例如 CIFAR-10/100、Floe wers 和 Cars 来评估 EfficientNetV2 模型。在 ImageNet 上,EfficientNetV2 显着优于以前的模型,训练速度提高了约 5-11 倍,模型尺寸缩小了 6.8 倍,准确率没有任何下降。
第二类是CoAtNet,一种结合了卷积和自注意的混合模型,其目标是在大规模数据集上实现更高的精度,如ImageNet21(有1300提出万张图像)和JFT(有数十亿张图像)。
虽然EfficientNetV2仍然是一个典型的卷积神经网络,但最近对视觉Transformer(visual Transformer, ViT)的研究表明,基于注意的Transfomer 模型在JFT-300M等大规模数据集上的性能优于卷积神经网络。
受这一观察结果的启发,研究人员进一步将研究范围扩两个展到卷积神经网络之外,以期找到更快、更准确的视觉模型。
研究者系统地研究如何结合卷积和自注意力来开发用于大规模图像识别的快速准确的神经网络。工作结果基于一个观察结论,即卷积由于其归纳偏差(inductive bias)通常具有更好的泛化能力(即训练和评估之间的性能差距),而自注意力Transformer由于其对全局建模的能力更强,模型所以往往具有更强大的概括能力(即适应大规模训练的能力) 。
通过结合卷积和自注意力,得到的混合模型可以实现更好的泛化和更大的容量。
深度卷积和自注意力可以通过简单的相对注意力自然地统一起来,并且垂直堆叠卷积层和注意力层,可以同时考虑到每个阶段所需的容量和计算能力,从而提高泛化性、容量和效率。
在 CoAtNet 架构中,给定大小为 HxW 的输入:体图像,首先在第一个stem阶段 (S0) 应用卷积并将大小减小到 H/2 x W/2。尺寸随着每个阶段继续减小。Ln 是指层数。前两个阶段(S1和S2)主要采用深度卷积组成的MBConv构建块。后两个阶段(S3和S4)主要采用具有relative self-attention的Transformer块。与之前 ViT 中的 Transforme积下r 块不同,这里使用阶段之间的池化,类似于 Funnel Transformer。最后,我们分类头来生成类别预测概率。
CoAtNet 模型在许多数据集(例如 ImageNet1K、ImageNet21K 和 JFT)中始终优于 ViT 模型及其变体。与卷积网络相比,CoAtNet 在小规模数据集 (ImageNet1K) 上表现出相当的性能,并且随着数据降7大小的增加(例如在 ImageNet21K 和 JFT 上)取得了可观的收益。
研究人员还在大规模 JFT 数据集上评估了 CoAtNets。为了达到类似的准确度目标,CoAtNet 的训练速度比以前的 ViT 模型快 4 倍,更重要的是,在 ImageNet 上达到了 90.88% 的新的最先进的 top-1 准确度。
与以前的结果相比,新提出的模型速度快了4-10倍倍,,同时在完善的ImageNet数据集上实现了最先进的90.88%top-1精度。
- ·标签: 宇树科技 人形机器人 出货量
- ·标签: 夸克AI眼镜 Super Raw算法 Raw域降噪 高通骁龙AR1
- ·OpenAI向临床医生免费开放专业级服务
- ·八个避孕套
- ·勇敢猪猪不怕困难是什么梗
- ·标签: 小鹏汽车 刘先明 通用智能中心 智能驾驶
- ·标签: 自嗨锅 杭州金羚羊 蔡红亮 方便食品
- ·即梦AI正式上线火山引擎 面向企业开放 API 服务
- ·标签: 货拉拉 市场监管总局 反垄断整改 平台抽成
- ·四个字的歌曲
- ·Youtu-Agent 智能体框架正式开源,引领 AI 发展新潮流
- ·使用SUSE Rancher 2.6对 Aks 和 Gke 集群,进行全生命周期的管理
- ·反对美国会新反垄断法案!谷歌亚马逊:对小企业不利
- ·Verizon和本田希望利用5G和边缘计算让驾驶更安全
- ·中国企业大模型调用量突破10万亿Tokens,开源趋势引领未来
- ·前 Oculus 创始人 AI 初创企业 Sesame 融资 2.5 亿美元,智能眼镜 Beta 版现已上线
- ·标签: 小米 XiaomiMiMo 罗福莉 大模型
- ·甲骨文第四财季营收112亿美元 云服务和授权支持业务营收占66%
- ·特朗普签署命令投资5000万美元助力儿童癌症人工智能研究
- ·标签: 蒙纳字库 Monotype Fonts 字体平台 中文设计
- ·美参议员致信亚马逊CEO:掌纹支付服务引发数据担忧
- ·云安全日报210420:Ubuntu配套服务位置协议发现执行任意代码漏洞,需要尽快升级
- ·浜戝畨鍏ㄦ棩鎶�210728锛欼BM楂樺彲鐢�(HA)鍜岀伨澶�(DR)瑙e喅鏂规�鍙戠幇瀹夊叏缁曡繃婕忔礊,闇€瑕佸敖蹇�崌绾�
- ·标签: 云知声
- ·苹果大中华地区注册开发者数量增至440万
- ·标签: 中文在线 17K小说网 短剧 IP衍生品
