Meta 推出 DeepConf 技术,智能平衡大型语言模型的推理成本与准确性
近日,Meta AI 联合加州大学圣地亚哥分校(UCSD)推出了一种名为 Deep Think with Confidence(DeepConf)的新技术,旨在帮助企业在大语言模型(LLM)的Me复杂推理任务中,有效降低算力成本的同时保持高准确率 。 当前,提高 LLM 推理能力常依赖“自一致性 + 多次采样再表决”的策略(即 majority voting),但这种方法会导致计算资源迅速膨胀,耗时ta耗费,大量低质量推理路径反而可能造成错误答案胜出 。DeepConf 的创新之处在于,它不再对所有推理路径一视同仁,而是通过 模型内部的置信度信号,对推理路径进行筛选与权重调整 。 Deep 推Conf 引入了多种精细的置信度指标,比如: 组置信度(Group Confidence):计算推理过程中某一段 token 的平均置信度; 尾部置信度(Tail Confidence):关注推理结尾部分出 的置信程度; 最低组置信度(Lowest Group Confidence):找出推理路径中最“脆弱”的环节; 底部百分位置信度(Bottom-10% Confidence):聚焦最不自信的那部分推De理内容 )。 DeepConf 支持两种执行方式: 离线模式(Offline Thinking):先生成多个完整推理路径,再按置信度筛选较优路径参与表决或加权投票; 在线模式(Online Thinkiepng):在推理生成过程中实时评估,当当前路径置信度低于阈值时,立刻终止该路径以节省资源 。 在多个开放模型(如 DeepSeek-8B、Qwen3-32B、GPT-OSS-120B)以及复杂数学与Co STEM 推理任务(AIME、HMMT、BRUMO25、GPQA-Diamond)中,DeepConf 表现惊艳: 离线模式下,使用 GPT-OSS-120B 在 AIME2025的准确率高达 99.9%,nf同时生成的 token 数量比传统方法少 84.7% ; 在线模式下,在 AIME24中,DeepSeek-8B 的准确率提升了 5.8个百分点,却使用了 77.9% 更少的 token 。 企业可根 技据使用场景风险偏好选择不同设定: DeepConf-high(保守模式):一般能减少约 50%的生成成本,但准确性几乎不受影响,适用于金融、法律等高风险场景; DeepConf-low(激术,进模式):节省 70%–85%的 token,适用于问答草稿、知识检索等对速度要求高但容错较灵活的场景 。 使用 DeepConf 无需重新训练模型,只需增加少量推理时的逻辑处理。此外,它还具智能备良好兼容性,可与现有推理框架(如 vLLM、SGLang、TensorRT-LLM)无缝集成。正如研究者所言,这为现实企业部署 LLM 推理任务提供了一个“可插拔”的高效方案。 论文:https平衡://arxiv.org/abs/2508.15260 划重点: 🧠 置信度导向选择:DeepConf 基于局部置信度(组、尾部、最低点等)筛选或权重排序推理路径,而非一刀切多数投票。 ⏱ 显大型著提升效率:达到最高99.9% 的推理准确率,同时减少生成 token 多达84.7%。 ️ 可调节策略模式:企业可按风险偏好选择「高安全性」或「高效率」模式,用最少资源获取最优结果。
- 最近发表
- 随机阅读
-
- 即梦AI正式上线火山引擎 面向企业开放 API 服务
- 腾讯元宝接入 DeepSeek V3.1,开启全新智能体验
- 云计算开发:Python3-isspace()方法详解
- 云计算核心技术Docker教程:Docker Hub构建钩子和源存储库
- 兼容KH-30000 Anolis OS 8.2正式版发布
- 标签: 德适 医学影像AI 港交所 杭州
- 标签: 大疆 影石创新 无人机专利 专利权属纠纷
- 标签: MCU 智能家电 芯片 中微半导体 消费电子
- 标签: 哥瑞利 半导体软件 智能制造 港股IPO
- AWS宣布对Amazon Braket进行两项重大更新
- 云计算市场竞争愈演愈烈,IBM收购芬兰云计算公司Nordcloud
- 标签: Lululemon Calvin McDonald 第三季度财报 CEO卸任
- 标签: 海辰储能
- 数学AI推理迎来重大突破!We-Math 2.0构建全链条知识体系,多模态学习能力实现质的飞跃
- GPT-5偏见测试结果公布:500问验证客观性飞跃,情感化问题仍是挑战
- 标签: 苹果 小程序 Steam Machine 大疆
- OpenAI加速推进GPT-6开发,奥尔特曼承诺打造"有记忆"的个性化AI助手
- 标签: Spotify 安娜的档案 音乐保存 DRM绕过
- 标签: 威马汽车 小威随行 蓝牙车控 远程车控
- 标签: 东方甄选 董宇辉 孙进 知识带货
- 搜索
-
- 友情链接