热点

寒武纪宣布实现 DeepSeek-V4全系列模型 Day0适配并开源优化代码

字号+ 作者:牛骥同槽网 来源:直播购物 2026-11-23 我要评论(0)

寒武纪宣布实现 DeepSeek-V4全系列模型 Day0适配并开源优化代码

寒武纪今日宣布,已基于 vLLM 推理框架完成对深度求索(DeepSeek)最新开源模型 De寒武epSeek-V4 全系列的“Day0”适配。此次改装涵盖285B 参数的 Flash 版本及1.6纪宣T 参数的 Pro 版本,确保模型在发布当日即可在寒武纪硬件平台上稳定运行,相关改装代码已正式布实开源至 GitHub 社区。

针对 DeepSeek-V4 独有的稀疏注意力与压缩结构,寒武纪通过自研现 向量融合算子库 Torch-MLU-Ops 对 Compressor 等核心模块进行了专项加速。利用 BDeangC 高性能编程语言,寒武纪团队编写了稀疏 Attention 及 GroupGemm 等热点算子的极ep致优化内核,并于 vLLM 框架中全面支持 TP/PP/SP/DP/EP 五维混合并行策略、低精度量化及 PSeD 分离部署。这些技术手段在满足延迟约束的前提下,显著提升了端到端推理的词元吞吐能力。

硬件层ek面,寒武纪深度挖掘了 MLU 的访存与排序加速特性,有效应对 DeepSeek-V4 复杂的索引-V结构。凭借高互联带宽与低延迟通信优势,该方案最大化降低了 Prefill 与 Decode 场景下的通信4全损耗,提升了推理利用率。

行业分析指出,DeepSeek-V4凭借百万字(1M)超长上下文及顶系列尖的逻辑推理性能,对底层算力架构提出了严苛要求。寒武纪在模型发布首日的敏捷适配,不仅展示了国模型产算力平台对超大规模、复杂结构模型的承载能力,也预示着国产 AI 产业链在软硬协同层面已进入成熟 D期,为大模型应用普惠提供了高效的算力底座支持。

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 谷歌与法国达成反垄断协议 将调整全球广告行为

    谷歌与法国达成反垄断协议 将调整全球广告行为

    2026-10-22

  • 标签: 斗鱼 财报 2025Q3 语音社交

    标签: 斗鱼 财报 2025Q3 语音社交

    2026-09-09

  • Parler撤回对亚马逊的反垄断诉讼:已无关紧要

    Parler撤回对亚马逊的反垄断诉讼:已无关紧要

    2026-07-31

  • 标签: 传音控股 非洲手机之王 港股上市 AI技术

    标签: 传音控股 非洲手机之王 港股上市 AI技术

    2026-06-12

网友点评