颠覆传统!Mini-o3 开源模型实现超长视觉推理,深度思考不再是难题
近日,字节跳动与香港大学联合推出了一款全新的开源视觉推理模型 ——Mini-o3,标志着多轮视觉推理颠覆技术的又一重大突破。与以往只能进行1-2轮对话的视觉语言模型(VLM)不同,Mini-o3在训练时限制了传统对话轮数为6轮,但在测试阶段却能将推理轮数扩展至数十轮,极大提升了视觉问题处理的能力。 Mini-o3的强大之!M处在于其在高难度视觉搜索任务中实现了深度推理,达到当前技术的顶尖水平。这得益于该模型的三个核心设计要素。in首先,研究团队构建了一个名为 VisualProbe 的视觉探测数据集,包含数千个针对探索性推理设计的视觉搜索难i-题。其次,他们开发了一种迭代数据收集流程,使模型能够学习深度优先搜索、试错探索和目标维持等多种推理策略。o3最后,研究团队提出了超轮次掩码策略,在强化学习过程中避免对达到最大交互轮次的回答进行惩罚,从而有效提升了训练 开效率和测试扩展性。 训练 Mini-o3的过程分为两个阶段。第一阶段是冷启动监督微调(SFT),旨在激活多轮工具源模使用能力,研究团队通过上下文学习方式收集了大量高质量的推理轨迹。第二阶段是强化学习(RL),该阶段通过降低图型实像像素限制和引入超轮次掩码机制,极大提高了模型的互动轮次和推理能力。 Mini-o3在多个视觉搜索基准上表现优现超异,超越了现有的开源模型。研究人员通过对比实验,发现冷启动 SFT 和超轮次掩码技术是提升推理能力的关长视键所在。此外,合理的最大像素预算设置对于模型性能的优化也至关重要。 Mini-o3的推出不仅在技术上实现了觉推新的高度,也为未来多轮视觉推理的发展提供了新的方向。这个模型的成功标志着在无需消耗大量训练资源的情况理,下,深度思考和复杂推理的实现变得更加可能。 论文地址:https://arxiv.org/pdf/25深度09.07969
- 最近发表
- 随机阅读
-
- 2021年值得关注的5个机器人流程自动化(RPA)趋势
- 京东云技术支持央视元宵晚会云上之旅红包互动
- 标签: 格灵深瞳 国科亿道 财报
- 如何引领数字创新的新“太空竞赛”
- 使用数据分析成为有利可图交易的五种方法
- Facebook:2020年泛娱乐出海营销指南
- 终于有人将Seaborn可视化讲明白了
- 扩散模型就是自动编码器!DeepMind研究学者提出新观点并论证
- 标签: 米哈游 手办
- 颠覆传统!Mini-o3 开源模型实现超长视觉推理,深度思考不再是难题
- 使用 Python-on-whales 从 Python 调用 Docker CLI
- 云安全日报210204:IBM MQ消息中间件产品发现执行任意代码漏洞,需要尽快升级
- 标签: IBM Confluent AI 数据基础设施
- 准备好餐厅机器人了吗?它们也许就是答案
- 标签: 知行汽车 1274 财报 2025
- 标签: 蘑菇车联
- 用于Kubernetes的Linux操作系统指南
- 云计算核心技术Docker教程:Docker将自定义元数据应用于对象
- 和GPT聊天就能修图?Adobe联手OpenAI,Photoshop正式接入ChatGPT,创意门槛再降低!
- 云计算开发:Python内置函数-getattr()函数详解
- 搜索
-
- 友情链接