Meta 超级智能实验室推出新技术,使大模型 RAG 推理速度提升 30 倍
近日,Meta 公司宣布成立了全新的超级智能实验室(Meta Superintelligence Labs,MSL),并发表了首篇重要Me论文,研究成果显著提升了大语言模型在检索增强生成(RAG)任务中的推理速度,提升幅度达到了30倍以上。
这篇论文名为《REFRAGta:Rethinking RAG based Decoding》,主要探讨如何让大型语言模型在执行 RAG 任务时,快速提炼出重要信息,以减少 超计算量并缩短反应时间,而同时保持准确性不变。Meta 超级智能实验室的成立标志着公司在人工智能领域的进一步发力,尤其是在当前激烈的竞争环境级智下,扎克伯格急需推动 AI 技术的发展。
Meta 超级智能实验室于今年6月正式成立,总部位于加利福尼亚州的门洛帕克,旨在研发超级智能技术。根据能实报道,扎克伯格在4月份对 Meta 最新发布的 Llama4模型表现不满,甚至要求员工加班加点来改进。这促使他成立了这个新实验室,并引入验室了大量顶尖人才,包括 Scale AI 的创始人 Alexandr Wang。
在实验室内部,团队被分为四个小组,分别负责大语言模型的研发、人推出工智能基础研究、产品技术落地以及基础设施的保障。REFRAG 框架的提出,正是实验室在优化大语言模型性能方面的第一步。
REFRAG 框架的核新技心理念是,通过一个轻量级模型将冗长的上下文内容压缩成摘要,减少解码器处理的输入信息。这种方法不仅加快了处理速度,还降低了计算量,提高了术,模型的效率。此外,研究团队还采用了 “持续预训练” 的方法,通过重建任务训练模型,以便在压缩信息的同时,尽量保留重要的细节。
经过全面测试,使大REFRAG 在多种任务中表现出色,尤其在时间延迟和吞吐量方面大幅提升。实验结果显示,REFRAG 在压缩比为16倍的情况下,能够在速度上超模型越之前的最先进模型 CEPE,并且在准确性上几乎没有损失。
这一创新成果为 Meta 在人工智能领域的发展注入了新的动力,同时也展示了其在提升大模 R型推理效率方面的前瞻性思考。
论文:https://arxiv.org/abs/2509.01092
划重点:
Meta 成立超级智能实验AG室,旨在推动 AI 技术的发展。
新论文《REFRAG》实现 RAG 推理速度提升30倍,减少计算量。
REFRAG 框架通过信息压缩,提升大语言模 推型的效率与准确性。
- ·标签: 造车新势力
- ·普通却自信是什么梗
- ·肠粉怎么炒才好吃
- ·无影云电脑启动大规模商用 已服务众多行业客户
- ·识别实体与值对象的特征
- ·云安全日报210705:红帽云计算应用平台发现请求伪造特权提升漏洞,需要尽快升级
- ·标签: 逐玉 腾讯视频 收视率造假 电视剧
- ·AI高仿你的笔迹只需1个词,Deepfake文字版来了,网友:以假乱真
- ·标签: 鸿蒙智行 我是大彬同学 名誉权侵权 法务声明
- ·Reddit CEO直言:AI聊天机器人并未带来流量红利,搜索仍是核心引擎
- ·标签: Google AI概览 医疗搜索
- ·注释掉 on('data') 请求为什么一直挂着?― 了解 Node.js Stream 的两种模式
- ·云计算开发:Python练习实例-利用递归方法求值
- ·苹果明年推出SiriAI搜索 将由谷歌 Gemini 提供AI技术支持
- ·阳澄湖大闸蟹蒸多久最佳时间
- ·人工智能来袭,独居老人养老不再难,养老进入科技时代
- ·阿里云李飞飞:数据和数据处理,是通往超级AI的燃料和引擎
- ·腾讯开源图检索增强生成框架Youtu-GraphRAG
- ·谷歌DeepMind 发布 VaultGemma 具备差分隐私能力
- ·标签: 特斯拉 马斯克 Optimus 薪酬方案
- ·一个基于多云的企业该如何进行安全控制
- ·标签: 滴滴 滴滴国际 99平台 巴西外卖
- ·AI 研究实验室 NeoCognition 获 4000 万美元融资,打造类人学习能力的 AI 智能体
- ·俄罗斯HapticVLM系统震撼问世!触觉识别准确率84.7%,开启人机交互新纪元
- ·标签: 臻有钱 苹果AppStore 高利贷 南京越胜茂
- ·京东启动“Aidol创造营”计划,全球征集AI智能硬件项目
