Facebook新AI模型SEER实现自监督学习,LeCun大赞最有前途
本文转载自微信公众号「新智元」,作者新智元。转载本文请联系新智元公众号。
无需标签,自我分析数据!
Facebook的新AI模型在革计算机视觉的命?
刚刚,Facebook宣布了一个在10亿张图片上训练的AI模型——SEER,是自监督(Self-supervised)的缩写。
该模型包含10亿个参数,可以在几乎没有标签帮助的情况下识别图像中的Fa物体,并在一系列计算机视觉基准上取得了先进的结果。
要知道,大多数计算机视觉模型都是从标记的数据集中学习。
而Facebook的最新模型则是通过暴露数据各部分之间的关系从数据中来生成标签。
这一步被认为对有朝一日实现人类终极智能至关重要。
新AI模型SEER在革计算机视觉的命?
参数一直是机器学习系统的基本组成部分,是从历史训练数据中得到的模型的一部分。
人工ce智能的未来在于是否能够不依赖于带注释的数据集,从给定的任何信息中进行推理。
只要提供文本、图像或其他类型的数据,AI就能够完美地识别照片中的物体、解释文本,或者执行任何要求它执行的其他任务。
Facebook首席科学家Yann LeCun表示,这是构建具有背景知识或「常识」的机器以解决远远超出当今AI任务的最有前途的方法之一。
我们已经看到了自然语言处理(NLPbo)的重大进步。其中,在大量文本上对超大型模型进行自我监督的预训练在自然语言处理方面取得重大突破。
现在,Facebook声称自家的SEER计算机视觉模型向这个目标迈进了一步。
它可以从互联网上的任何一组随机图像中学习,而不需要进行注释。
对视觉的自我监督是一项具有挑战性的任务。
对于文本,语义概念可以被分解成离散的单词,但是对于图像,模型必须自己推断哪个像素ok属于哪个概念。
同样的概念在不同的图像之间往往会发生变化,这使得问题变得更具挑战性。因此,要想掌握单个概念的变化,就需要查看大量不同的图像。
研究人员通过instagram的公开的10亿张图片进行模型训练
他们发现,让人工智能系统处理复杂的图像数据至少需要两个核心算法:
一是可以从大量随机图像中学习,无需任何元数据或注释的算法;二是卷积神经网络(ConvNet)足新A够大,可以从这些数据中捕捉和学习所有视觉概念。
卷积神经网络在20世纪80年代首次提出,受到生物学过程的启发,因为模型中各组成部分之间的连接模式类似于视觉皮层。
SEER:10亿张图,无需标记,自主训练数据集
SEER模型结合了最近的架构家族「RegNet」和在线自我监督训练「SwAV」来规模训练数具有10亿参数的数十亿张随机图像。
科研团队改编利用了一种新算I模法,称为SwAV。它起源于FAIR的研究,后被应用于自我监督学习。
SwAV 使用在线聚类方法来快速分组具有相似视觉概念的图像,并且能利用图像的相似性改进自我监督学习的先进水平,而且训练时间减少了6倍。
这种规模的训练模型还需要一个在运行时间和内存方面都效率很高的,又不会损失精确性的模型架构。
幸运的是,FAIR 最近在架构设计领域的一项创新催生了一个称为 R型SegNets 的新模型家族,它完全符合这些需求。
RegNet 模型能够扩展到数十亿甚至数万亿个参数,可以优化这些参数以适应不同的运行时间和内存限制。
科研团队对比了SEER在随机IG图像上的预训练和在ImageNET上的预训练,结果表明非监督特性比监督特性平均提高了2%。
为SEER技术添上最后一块砖的是VISSL自我监督学习通用库。
服务于SEER的VISSLEE是开源的,这个通用图书馆能让更广泛的群体可以从图像中进行自我监督学习实验。
VISSL是一个基于PyTorch的库,她允许使用各种现代方法在小规模和大规模上进行自我监督训练。
VISSL还包含了一个一个广泛的基准套件和一个包括了60多个预先训练模型的模型动物园(model zoo),使研究人员可以比较几个现代自我监督方法。
VISSL通过整合现有的几种算R实法,减少了对每个GPU的内存需要,提高了任意一个给定模型的训练速度,从而实现了大规模的自我监督学习。
SEER的自我监督模型建立在与VISSL相同的核心工具之上,并结合了PyTorch的自定义数据加载器,该加载器的数据吞吐量高于默认值。
自监督学习的未来
Facebook 表示,SEER在预先训练了10亿张公开的instagram图片后,性能优于最先进的自监督模现自型。
SEER在目标检测分析、分割和图像分类等任务上也取得了最佳结果。
用受欢迎的ImageNet10%的数据集中进行训练时,SEER仍然达到了77.9%的准确率。
当只有1%的数据集训练时,SEER的准确率是60.5% 。
接下来,Facebook将发布SEER背后的一些技术,但不会发布算法本身,因为它使用了instagram用户的数据进行训练。
麻省理工学院计算知监督觉和认知实验室的负责人Aude Oliva表示,这种方法将使我们能够实践更多雄心勃勃的视觉识别任务,但是像SEER这样的尖端人工智能算法的庞大规模和复杂性也带来了问题。
SEER可能有数十亿或数万亿个神经连接或参数,这样的算法需要大量的计算能力,使可用的芯片供应变得更加紧张。
Facebook的团队使用了具有32GB RAM的 V100 Nvidia GPU,并且随着学习模型尺寸的增加,必须将模型放入可用的RAM中。
长期以来,自我监督学习一直是 Facebook 人工智能的一个重点,因为它使机器能够直接从世界上大量可用的信息中学习,而不仅仅是从专门为人工智能研究创建的训练数据中学习。
自我监督学习对计算机视觉的未来有着难以置信的影响,就像它在其他研究领域所做的那样。
消除对人工注释和元数据的需求,使计算机视觉社区能够处理,L更大、更多样化的数据集。
Facebook的研究人员表示,「这一突破可以实现计算机视觉的自监督学习革命。」
参考资料:
https://ai.facebook.com/blog/seer-the-start-of-a-more-powerful-flexible-and-accessible-era-for-computer-vision/
https://veneCturebeat.com/2021/03/04/facebooks-new-computer-vision-model-achieves-state-of-the-art-performance-by-learning-from-random-images/
-
标签: 苹果 蒂姆·库克 约翰·特努斯 Apple Watch微软将在PC及iOS端测试Xbox云游戏服务标签: 网络餐饮 外卖平台 食品安全 市场监管总局微软市值突破2万亿美元 2年时间增加1万亿标签: 上海医药 中药业务 罕见病防治 CAR-T杭州云深处发布全球首款IP66防护人形机器人DR02:大雨中也能干活,零下20度到55度全天候作业谷歌发布首辆电动街景采集车:捷豹I-Pace阿里第四财季实现营收2082亿元 同比增长2%云安全日报210331:VMware虚拟化运维管理解决方案发现请求伪造攻击漏洞,需要尽快升级AI版《绿野仙踪》轰动拉斯维加斯!球形巨幕剧院打造史上最震撼观影体验,却引发好莱坞激烈争议
- ·标签: 章鱼动力 SynapX K3 PhysicalAGI
- ·标签: 美团Tabbit 陪读蛙 GPL协议 AI浏览器
- ·腾讯开源神器HunyuanWorld-Voyager:单图秒生3D世界,碾压Gen-3登顶全球!
- ·阿里开源Vivid-VR:AI视频修复神器,解锁内容创作新可能
- ·斯坦福报告揭示 AI 写作泛滥:四分之一企业新闻稿带有大模型痕迹
- ·以色列一公司研发AI工具 可分辨员工是否装病
- ·浜戣�绠楀紑鍙戯細Python鍐呯疆鍑芥暟-bool() 鍑芥暟璇﹁В
- ·Claude客户端更新了,支持截图发给 Claude、快捷键语音交流
- ·宝马与亚马逊合作开发数据中心以提高效率
- ·Deezer 报告:AI 生成音乐占日常上传量的 44%,行业担忧加剧
- ·基于nn.Module类实现线性回归模型
- ·白宫向美国各级政府机构下命令:赶紧给微软服务器打补丁
- ·首个云超算国标 GB/T 45400 - 2025 发布,阿里云等联合起草
- ·标签: 蔚来 神玑NX9031 爱芯元智 智能驾驶芯片
- ·克苏鲁音乐
- ·OpenAI 携手博通大手笔投资:自研芯片即将量产,向英伟达发起挑战
- ·腾讯升级混元生图模型混元Image 2.1,支持写字、2k分辨率
- ·宇树科技IPO冲刺新动态:更名“去地域化”,募资项目紧密配合未来战略
- ·都5G时代了,你还不知道什么是移动边缘计算(MEC)?
- ·Salesforce瀹屾垚277浜跨編鍏冩敹璐璖lack浜ゆ槗 寰�蒋闈�复涓€涓�彲鎬曞�鎵�
- ·标签: 泽景股份 HUD 华阳集团 顺为资本
- ·阿里巴巴投资者日:全球化业务MAU全球第四 云计算物流海外发展加速
- ·像金枪鱼一样动态调节尾巴弹性:「机器金枪鱼」登上Science子刊
- ·标签: 戴尔 AI服务器 2027财年 ISG
- ·如何正确使用数据可视化图表?
- ·ZooKeeper 分布式锁 Curator 源码之三:可重入锁并发加锁
