HiDeepSeekDev
空闲特惠
新闻资讯DeepSeek华为昇腾vLLM Ascend推理部署

vLLM Ascend v0.30.0 RC 支持 DeepSeek V4.1,RC2 专门修复官方镜像构建

补录 10 月 12–13 日的昇腾生态更新。RC1 扩展 DeepSeek V4.1 的执行路径,RC2 只调整 Dockerfile;说明候选版范围与不同部署方式的升级条件。

快速结论

RC1 包含模型与执行栈更新;RC2 说明没有代码变化,主要修复官方 Docker 镜像构建。使用 RC1 官方镜像的用户应按项目说明核对 RC2。

  • RC1 发行日期为 10 月 12 日;RC2 为 10 月 13 日 UTC。
  • RC1 声明支持 DeepSeek V4.1 的 Model Runner V2 路径。
  • RC2 调整 Dockerfile 中的 CANN 版本,不代表新增模型能力。

本次更新:10 月 15 日核验后新增,区分原始发布日期、适用范围与方法建议。

本篇补录近期昇腾生态变化,核验日期为 10 月 15 日。vLLM Ascend v0.30.0rc1于 10 月 12 日发布,rc2于 13 日发布;它们属于候选版本。

RC1 与 RC2 各自解决什么

RC1 包含 DeepSeek V4.1 的 Model Runner V2 支持,并更新相关执行栈。发布范围限定于说明中列出的模型、硬件和组合,不能据此推断所有 DeepSeek 型号或所有昇腾设备可用。

RC2 明确说明没有代码变化,修复 Dockerfile 以保证官方镜像构建,将其中 CANN 调整到 9.2.0_20260930220649。项目建议 RC1 官方镜像用户升级到 RC2;其他使用方式不必仅为此项变化跟进。

为什么值得单独核对镜像

编辑建议同时保存镜像标签与摘要、权重版本、NPU 型号及依赖记录。只记录“装了 v0.30”不足以复现:源码、镜像和运行时可能来自不同阶段。

先确认小请求和结果正确,再检查目标负载。性能观察应记录输入输出长度、并发、总耗时及错误样本,避免把启动成功当作完整能力通过。

与算子库更新的关系

推理服务插件、矩阵算子和通信库处于不同层次。某个库支持某设备,不代表所有服务功能、并行方式和量化配置自然兼容。

完整记录方法见昇腾推理栈版本对照。本文没有进行 NPU 部署、精度或吞吐测试。

参考资料

本文依据以下资料整理,版本与接口信息请以来源页面的现行说明为准。

  1. 01vLLM Ascend v0.30.0rc1 说明github.com
  2. 02vLLM Ascend v0.30.0rc2 镜像修复github.com
阅读至此返回学习中心