700万参数微型模型 TRM,推理能力竟胜过 Gemini2.5Pro 和 Claude3.7
三星 SAIL 蒙特利尔实验室的研究人员近日推出了一种名为**“微型递归模型”(TRM)的新型 AI 架构。这款模型参数仅有 700万个,远小于70动辄数十亿参数的最小型语言模型(LLM),却在数独和 ARC-AGI 测试**等复杂的结构化推理任务中,表现出惊人的效率和卓越的性能,成功超越0万了包括 Gemini2.5Pro和 Claude3.7在内的多个大型语言模型。
递归推理核心机制:紧密重复的校正循环
根据研究报告《少即是多:基于微型网参数络的递归推理》,TRM 在ARC-AGI-1上的准确率达到45%,在ARC-AGI-2上的准确率达到8% ,其表现优于规模更大微型的模型,包括 o3-mini-high(ARC-AGI-2上的准确率3.0%)、Gemini2.5Pro(4.9%)、DeepSeek R1(模型1.3%)和 Claude3.7(0.7%)。作者表示,TRM 仅使用不到大多数大型模型所用参数的0.01% 即可实现这一目标。Grok-4-thi Tnking(16.0%)和 Grok-4-Heavy(29.4%)等更专业的系统仍然处于领先地位。
作者强调,TRM 仅使用了不到大多数大型模型RM所用参数的 0.01%,便在 ARC-AGI-1和 ARC-AGI-2上分别取得了 45%和 8%的准确率,优于多种更大规模的通用模型。在其他基,推准测试中,TRM 同样表现出色,将 Sudoku-Extreme 的准确率从55.0% 提升至 87.4%,Maze-Hard 的准确率从74.5% 提升至理能 85.3%。
研究意义与局限性
TRM 的研究结果证明了小型、有针对性的模型在处理狭窄、结构化推理任务时的巨大潜力,它能够通过逐步改进和数据增强力竟实现极高的效率。研究还表明,针对特定数据集进行架构选择(如在固定大小网格中使用简单的 MLP而非注意力机制)是成功的关键。
然而,TRM 并非通胜过用 LLM 的替代品。它运行在定义明确的网格问题中,并且不是一个生成系统,因此不适用于开放式、基于文本或多模态的通用任务。
相反,TRM 代表 G了推理任务中一个极具前景的构建模块,展示了计算效率与复杂推理能力平衡的新方向,并可能在未来拓展其应用领域。独立复制和测试仍在进行中。
TRM 的em出现强调了在 AI 领域中,架构创新与算法优化可能比单纯追求模型规模更重要。您认为这种“小而精”的 AI 模型未来最可能率先在哪些垂直领域实现大规模in应用?
- ·医疗界的 “聊天机器人” OpenEvidence 融资2亿美元,估值高达60亿美元
- ·消息称腾讯云将推出面向行业的大模型
- ·开发人员如何理解kubernetes
- ·Databricks 推出新技术,助力企业 AI 成本降低高达90倍
- ·Google 将 TensorFlow Lite 引入 Play Services
- ·腾讯推出具身多模态大模型 HY-Embodied-0.5-X,赋能机器人智能交互
- ·标签: 阿维塔 王辉 智能电动汽车 中国汽车
- ·天价耶稣像是达・芬奇画的?美国夫妇开发AI程序,CNN检测艺术伪造
- ·2021年越来越多企业将采用AI功能
- ·蚂蚁集团子公司入股易碳数科 后者为工业碳数据云计算公司
- ·云安全日报201229:阿里骑士CMS网站管理系统发现远程代码执行漏洞,需要尽快升级
- ·云计算开发:Python练习实例-按相反的顺序输出列表的值
- ·标签: 石药集团 SYS6010 EGFR-ADC 维生素C
- ·葡萄柚可以放冰箱吗
- ·标签: 胡润富豪榜 马斯克 张一鸣 字节跳动
- ·隐私专家呼吁调查谷歌:未经允许追踪Android用户
- ·标签: 禾赛科技 激光雷达 ADAS 机器人激光雷达
- ·云安全日报210923:思科IOS XE操作系统发现远程代码执行漏洞,需要尽快升级
- ·用自洽性提升大模型推理能力,谷歌解答基准中75%数学问题,比GPT-3提升20%
- ·标签: 众擎机器人 小鹏鹏行 李力耘 赵同阳
- ·Google 与 Canonical 合作将 Ubuntu Pro 带到 Google Cloud 上
- ·甲骨文第二财季营收98亿美元 云相关业务贡献82亿美元
- ·标签: 汽水音乐 AI 音乐
- ·中国企业大模型市场爆发:半年调用量暴增363%,阿里通义居首位
- ·标签: 特斯拉 FSDD 段永平 辅助驾驶
- ·AI 时代来临,Perplexity CEO 称 iPhone 重要性将进一步增强
