Meta 超级智能实验室推出新技术,使大模型 RAG 推理速度提升 30 倍
近日,Meta 公司宣布成立了全新的超级智能实验室(Meta Superintelligence Labs,MSL),并发表了首篇重要Me论文,研究成果显著提升了大语言模型在检索增强生成(RAG)任务中的推理速度,提升幅度达到了30倍以上。
这篇论文名为《REFRAG:Retathinking RAG based Decoding》,主要探讨如何让大型语言模型在执行 RAG 任务时,快速提炼出重要信息,以减少计算 超量并缩短反应时间,而同时保持准确性不变。Meta 超级智能实验室的成立标志着公司在人工智能领域的进一步发力,尤其是在当前激烈的竞争环级智境下,扎克伯格急需推动 AI 技术的发展。
Meta 超级智能实验室于今年6月正式成立,总部位于加利福尼亚州的门洛帕克,旨在研发超级智能技术。根据能实报道,扎克伯格在4月份对 Meta 最新发布的 Llama4模型表现不满,甚至要求员工加班加点来改进。这促使他成立了这个新实验室,并引入了大量验室顶尖人才,包括 Scale AI 的创始人 Alexandr Wang。
在实验室内部,团队被分为四个小组,分别负责大语言模型的研发、人工智能推出基础研究、产品技术落地以及基础设施的保障。REFRAG 框架的提出,正是实验室在优化大语言模型性能方面的第一步。
REFRAG 框架的核心理新技念是,通过一个轻量级模型将冗长的上下文内容压缩成摘要,减少解码器处理的输入信息。这种方法不仅加快了处理速度,还降低了计算量,提高术,了模型的效率。此外,研究团队还采用了 “持续预训练” 的方法,通过重建任务训练模型,以便在压缩信息的同时,尽量保留重要的细节。
经过全面测使大试,REFRAG 在多种任务中表现出色,尤其在时间延迟和吞吐量方面大幅提升。实验结果显示,REFRAG 在压缩比为16倍的情况下,能够在速度上模型超越之前的最先进模型 CEPE,并且在准确性上几乎没有损失。
这一创新成果为 Meta 在人工智能领域的发展注入了新的动力,同时也展示了其在提升 R大模型推理效率方面的前瞻性思考。
论文:https://arxiv.org/abs/2509.01092
划重点:
Meta 成立超级智能实验室,AG旨在推动 AI 技术的发展。
新论文《REFRAG》实现 RAG 推理速度提升30倍,减少计算量。
REFRAG 框架通过信息压缩,提升大语言模型 推的效率与准确性。
- ·京东自研的「京点点AI文案」全新上线,3秒出稿
- ·DeepMind 重磅推出 “帧链” 概念:视频模型或将实现全面视觉理解
- ·Claude Code 推出全新插件系统,提升开发效率
- ·标签: 三星 电视 显示器 家电
- ·标签: Discord IPO 微软收购 高盛集团
- ·预计2024年中国云计算市场规模将达到1,000亿美元
- ·标签: 亚马逊 Prime Now 京东秒送 淘宝闪购
- ·云安全日报201203:Ubuntu系统内核发现拒绝服务或执行任意代码漏洞,需要尽快升级
- ·扎克伯格:AI 数据中心 GPU 紧缺正在缓解,电力将成新瓶颈
- ·OpenAI联手阿根廷,投资250亿美元打造超级数据中心
- ·美光推出两款数据中心SSD——美光6500 ION NVMe SSD及美光XTR NVMe SSD
- ·Bubble 推出其首个 AI Agent,革新可视化开发体验
- ·华为加大数据中心能源领域的投入 发布最新伙伴政策
- ·标签: 赛多利斯 生物工艺解决方案 CellCelectorCLD Eveo
- ·标签: 日产汽车 2025财年 经营重建 结构改革
- ·标签: 移动云
- ·标签: 阿里巴巴 阿里云 李飞飞 通义实验室
- ·云安全日报211202:Ubuntu网络安全服务库发现执行任意代码漏洞,需要尽快升级
- ·AI招聘平台Jack & Jill完成2000万美元种子轮融资:用对话式AI重构求职流程
- ·OpenAI 提议为全体英国人免费提供 ChatGPT Plus,潜在成本高达 20 亿英镑
- ·标签: 领益智造 苹果 机器人
- ·每个多云策略都必须克服的5个挑战
- ·Alphabet Q3营收651亿美元 其中谷歌云部门营收近50亿美元
- ·云安全日报210106:红帽RHEL系统内核发现拒绝服务和特权提升漏洞,需要尽快升级
- ·阿里云参与制定国家级车联网先导区地方标准,加速车路协同行业标准化进程
- ·浜戝畨鍏ㄦ棩鎶�210728锛欼BM楂樺彲鐢�(HA)鍜岀伨澶�(DR)瑙e喅鏂规�鍙戠幇瀹夊叏缁曡繃婕忔礊,闇€瑕佸敖蹇�崌绾�
