热点

Meta 超级智能实验室推出新技术,使大模型 RAG 推理速度提升 30 倍

字号+ 作者:牛骥同槽网 来源:数据分析 2026-11-23 我要评论(0)

Meta 超级智能实验室推出新技术,使大模型 RAG 推理速度提升 30 倍

近日,Meta 公司宣布成立了全新的超级智能实验室(Meta Superintelligence Labs,MSL),并发表了首篇重要Me论文,研究成果显著提升了大语言模型在检索增强生成(RAG)任务中的推理速度,提升幅度达到了30倍以上。

这篇论文名为《REFRAGta:Rethinking RAG based Decoding》,主要探讨如何让大型语言模型在执行 RAG 任务时,快速提炼出重要信息,以减少计算量 超并缩短反应时间,而同时保持准确性不变。Meta 超级智能实验室的成立标志着公司在人工智能领域的进一步发力,尤其是在当前激烈的竞争环境下,扎克级智伯格急需推动 AI 技术的发展。

Meta 超级智能实验室于今年6月正式成立,总部位于加利福尼亚州的门洛帕克,旨在研发超级智能技术。根据能实报道,扎克伯格在4月份对 Meta 最新发布的 Llama4模型表现不满,甚至要求员工加班加点来改进。这促使他成立了这个新实验室,并引入了大量顶验室尖人才,包括 Scale AI 的创始人 Alexandr Wang。

在实验室内部,团队被分为四个小组,分别负责大语言模型的研发、人工智能基础推出研究、产品技术落地以及基础设施的保障。REFRAG 框架的提出,正是实验室在优化大语言模型性能方面的第一步。

REFRAG 框架的核心理念是,新技通过一个轻量级模型将冗长的上下文内容压缩成摘要,减少解码器处理的输入信息。这种方法不仅加快了处理速度,还降低了计算量,提高了模型的效率。此术,外,研究团队还采用了 “持续预训练” 的方法,通过重建任务训练模型,以便在压缩信息的同时,尽量保留重要的细节。

经过全面测试,REFRAG 在使大多种任务中表现出色,尤其在时间延迟和吞吐量方面大幅提升。实验结果显示,REFRAG 在压缩比为16倍的情况下,能够在速度上超越之前的模型最先进模型 CEPE,并且在准确性上几乎没有损失。

这一创新成果为 Meta 在人工智能领域的发展注入了新的动力,同时也展示了其在提升大模型推理 R效率方面的前瞻性思考。

论文:https://arxiv.org/abs/2509.01092

划重点:

Meta 成立超级智能实验室,旨在推动 AAGI 技术的发展。

新论文《REFRAG》实现 RAG 推理速度提升30倍,减少计算量。

REFRAG 框架通过信息压缩,提升大语言模型的效率 推与准确性。

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 美光推出两款数据中心SSD——美光6500 ION NVMe SSD及美光XTR NVMe SSD

    美光推出两款数据中心SSD——美光6500 ION NVMe SSD及美光XTR NVMe SSD

    2026-10-10

  • 标签: Anthropic ClaudeFable5 ClaudeMythos5 人工智能模型

    标签: Anthropic ClaudeFable5 ClaudeMythos5 人工智能模型

    2026-09-23

  • 收购GitHub两年后,微软不断面临棘手的争议

    收购GitHub两年后,微软不断面临棘手的争议

    2026-06-08

  • 标签: 微光启航 微光一号 华光一号 液氧甲烷发动机

    标签: 微光启航 微光一号 华光一号 液氧甲烷发动机

    2026-07-14

网友点评