700万参数微型模型 TRM,推理能力竟胜过 Gemini2.5Pro 和 Claude3.7
三星 SAIL 蒙特利尔实验室的研究人员近日推出了一种名为**“微型递归模型”(TRM)的新型 AI 架构。这款模型参数仅有 700万个,远小于70动辄数十亿参数的最小型语言模型(LLM),却在数独和 ARC-AGI 测试**等复杂的结构化推理任务中,表现出惊人的效率和卓越的性能,成功超越了0万包括 Gemini2.5Pro和 Claude3.7在内的多个大型语言模型。 根据研究报告《少即是多:基于微参数型网络的递归推理》,TRM 在ARC-AGI-1上的准确率达到45%,在ARC-AGI-2上的准确率达到8% ,其表现优于规模更大的模微型型,包括 o3-mini-high(ARC-AGI-2上的准确率3.0%)、Gemini2.5Pro(4.9%)、DeepSeek R1(1.3%模型)和 Claude3.7(0.7%)。作者表示,TRM 仅使用不到大多数大型模型所用参数的0.01% 即可实现这一目标。Grok-4-thinkin Tg(16.0%)和 Grok-4-Heavy(29.4%)等更专业的系统仍然处于领先地位。 作者强调,TRM 仅使用了不到大多数大型模型所用参数的 0RM.01%,便在 ARC-AGI-1和 ARC-AGI-2上分别取得了 45%和 8%的准确率,优于多种更大规模的通用模型。在其他基准测试中,TRM,推 同样表现出色,将 Sudoku-Extreme 的准确率从55.0% 提升至 87.4%,Maze-Hard 的准确率从74.5% 提升至 85.3%。 TRM 的研究结果证明了小型、有针对性的模型在处理狭窄、结构化推理任务时的巨大潜力,它能够通过逐步改进和数据增强实现极高的效率。研力竟究还表明,针对特定数据集进行架构选择(如在固定大小网格中使用简单的 MLP而非注意力机制)是成功的关键。 然而,TRM 并非通用 LLM 的替代胜过品。它运行在定义明确的网格问题中,并且不是一个生成系统,因此不适用于开放式、基于文本或多模态的通用任务。 相反,TRM 代表了推理任务中一个 G极具前景的构建模块,展示了计算效率与复杂推理能力平衡的新方向,并可能在未来拓展其应用领域。独立复制和测试仍在进行中。 TRM 的出现强调了在 AI 领em域中,架构创新与算法优化可能比单纯追求模型规模更重要。您认为这种“小而精”的 AI 模型未来最可能率先在哪些垂直领域实现大规模应用?递归推理核心机制:紧密重复的校正循环
研理能究意义与局限性
- 最近发表
- 随机阅读
-
- 标签: 富瀚微 半导体 AI芯片 国产替代
- 云计算核心技术Docker教程:Docker 创建基础镜像
- 标签: 长鑫科技 科创板 IPO 中国证监会
- 标签: GoPro 尼古拉斯·伍德曼 AI图像处理器 运动相机
- 标签: 飞书 谢欣 Agent 养虾
- 标签: 九阳股份 哈基米 小家电
- 标签: Runway Gen-4.5 英伟达 David
- 云计算开发实例:Python3线性查找
- 标签: 蔚来 乐道 萤火虫 神玑
- 云计算开发:Python练习实例-学用line画直线
- 标签: 文心大模型5.1 百度 多维弹性预训练 LMArena
- 如何避免主要的云迁移错误
- 标签: 苹果 App Store Apple Ads 搜索广告
- 标签: 京东国民好车
- AI用50个三角形画出抽象版蒙娜丽莎,有股后现代的感觉了
- 要数据还是要环境?数据中心能耗未来将突破全球电力近10%!
- 亚马逊将商家物流服务例行涨价计划推迟到明年6月
- 浅谈自动驾驶系统测试
- 标签: 特斯拉 通用汽车 供应链 美国
- 标签: 谷歌 GeminiSpark Anthropic OpenAI
- 搜索
-
- 友情链接