DeepSeek开源DeepInfer推理框架：线上生产同款引擎，支持V4.1-Flash与昇腾950

2026年10月20日，DeepSeek 官方在 GitHub 上开源了自研推理框架 DeepInfer，并在官方账号同步宣布：「DeepInfer，我们的内部推理框架，现已开源」。这是 DeepSeek 首次把支撑线上服务的推理引擎开放给社区，仓库采用 Apache 2.0 协议。

DeepInfer 是什么

DeepInfer 是 DeepSeek 支撑大规模生产服务的高性能推理框架。根据仓库说明，本次开源发布提供离线推理能力，覆盖大规模服务所需的核心功能。目前支持的模型为 DeepSeek-V4.1-Flash，默认权重为 DeepSeek-V4.1-Flash-1017；支持硬件包括 NVIDIA SM100 GPU 与华为昇腾 950 NPU。

核心特性一览

其中，批不变推理与确定性采样在 NVIDIA 平台可用；结构化输出支持正则表达式、JSON Schema 与 EBNF 文法三种约束方式。

开源边界与构建要求

本次开源并不等同于完整推理服务：KV 缓存系统、VE/Prefill/Decode 分离部署与跨副本负载均衡未包含在发布中，需要搭完整推理服务的团队需自行补齐这些组件。构建环境要求 Linux、GCC 13 及以上、Python 3.12；NVIDIA 平台需 CUDA 13，昇腾平台需 CANN 9.2。官方说明指出，DeepInfer 主要基于 vLLM 构建，并借鉴了 SGLang 与 TensorRT-LLM 的设计。

性能方面，官方给出了 prefill 与 decode 两组的吞吐-延迟曲线，分别在 4 张与 64 张 SM100 GPU 上测得，位于同一个 scale-up 域内。

社区反应

开源当天，DeepInfer 登上 Hacker News 热榜，获得 2353 分与 892 条评论。彭博社在次日的报道中以《DeepSeek 推出开源工具帮助降低 AI 运营成本》为题跟进。社区随即出现配套内容，包括十分钟上手视频等。另据 TechInAsia 报道，DeepSeek 与 MiniMax 已获批开展全球 AI 服务。

此前 DeepSeek 的开源动作主要围绕模型权重展开，先后开放了 V3、R1 等模型。此次 DeepInfer 的开源，把竞争推进到推理基础设施层：对部署 DeepSeek 模型的企业与开发者来说，拿到一份官方生产级推理栈，意味着性能调优与成本控制的起点更高了。