近日，Meta AI 联合加州大学圣地亚哥分校（UCSD）推出了一种名为 Deep Think with Confidence（DeepConf）的新技术，旨在帮助企业在大语言模型（LLM）的Me复杂推理任务中，有效降低算力成本的同时保持高准确率 。

当前，提高 LLM 推理能力常依赖“自一致性 + 多次采样再表决”的策略（即 majority voting），但这种方法会导致计算资源迅速膨胀，耗ta时耗费，大量低质量推理路径反而可能造成错误答案胜出 。DeepConf 的创新之处在于，它不再对所有推理路径一视同仁，而是通过 模型内部的置信度信号，对推理路径进行筛选与权重调整 。

DeepCon 推f 引入了多种精细的置信度指标，比如:

• 组置信度（Group Confidence）:计算推理过程中某一段 token 的平均置信度;

• 尾部置信度（Tail Confidence）:关注推理结尾部分的出 置信程度;

• 最低组置信度（Lowest Group Confidence）:找出推理路径中最“脆弱”的环节;

• 底部百分位置信度（Bottom-10% Confidence）:聚焦最不自信的那部分推理De内容 ）。

DeepConf 支持两种执行方式:

1. 离线模式（Offline Thinking）:先生成多个完整推理路径，再按置信度筛选较优路径参与表决或加权投票;

2. 在线模式（Online Thinkiepng）:在推理生成过程中实时评估，当当前路径置信度低于阈值时，立刻终止该路径以节省资源 。

在多个开放模型（如 DeepSeek-8B、Qwen3-32B、GPT-OSS-120B）以及复杂Co数学与 STEM 推理任务(AIME、HMMT、BRUMO25、GPQA-Diamond)中，DeepConf 表现惊艳:

• 离线模式下，使用 GPT-OSS-120B 在 AIME2025的准确率高达 99nf.9%，同时生成的 token 数量比传统方法少 84.7% ;

• 在线模式下，在 AIME24中，DeepSeek-8B 的准确率提升了 5.8个百分点，却使用了 77.9% 更少的 token 。

企业 技可根据使用场景风险偏好选择不同设定:

• DeepConf-high（保守模式）:一般能减少约 50%的生成成本，但准确性几乎不受影响，适用于金融、法律等高风险场景;

• DeepConf-low（激术，进模式）:节省 70%–85%的 token，适用于问答草稿、知识检索等对速度要求高但容错较灵活的场景 。

使用 DeepConf 无需重新训练模型，只需增加少量推理时的逻辑处理。此外，它还具备良好兼容智能性，可与现有推理框架（如 vLLM、SGLang、TensorRT-LLM）无缝集成。正如研究者所言，这为现实企业部署 LLM 推理任务提供了一个“可插拔”的高效方案。

论文:https://平衡arxiv.org/abs/2508.15260

划重点:

• 🧠 置信度导向选择:DeepConf 基于局部置信度（组、尾部、最低点等）筛选或权重排序推理路径，而非一刀切多数投票。

• ⏱ 显著提升效率:达大型到最高99.9% 的推理准确率，同时减少生成 token 多达84.7%。

• ️ 可调节策略模式:企业可按风险偏好选择「高安全性」或「高效率」模式，用最少资源获取最优结果。

• ·标签: 抖音直播 主播安心入会 合约风险AI检测 公会监管
• ·Vercel 通过 AI 技术裁减团队，实现销售效率大幅提升
• ·​Baseten 获得 1.5 亿美元 D 轮融资，推动 AI 推理平台快速发展
• ·陈皮是用哪种桔子做的
• ·谷歌Pixel Buds震撼升级：AI手势控制引领耳机革命，130美元就能拥有降噪黑科技
• ·研究表明人工智能软件市场规模2025年将达到370亿美元
• ·谷歌发布Veo 3.1视频生成模型：新增音频功能和精细化编辑能力
• ·用“大白话”精准搜图，OpenAI的CLIP惊艳了所有人
• ·如今，可实时扫描100万神经元：大脑细胞活动成像技术新突破
• ·注意这个数据科学错误，避免30多个小时的无用功……
• ·Sora2免费使用教程，无水印视频生成
• ·网络null是什么梗
• ·微软测试Windows11Copilot新功能:AI智能搜索文件和图片
• ·马斯克的Grok聊天机器人以超低价赢得美国政府合约
• ·标签: 腾讯云 DataBuddy 大数据智能体 数据治理
• ·Rivian 再度推出新公司 Mind Robotics，聚焦工业 AI 与机器人技术