正文

DeepSeek在10月20日开源了自家推理引擎DeepInfer——也就是在线上跑V4.1 Flash服务的那套系统，Apache 2.0协议，任何人都可以免费拿去用、改、商用。这是大模型厂商第一次把“生产级推理服务本身”开源出来，而不只是开源模型权重。对普通用户来说，它不会直接改变你聊天的体验；但对想自己部署DeepSeek模型的人来说，部署成本与门槛可能因此下降一截。

日期：2026年10月20日｜来源：The Diary of AI（10月20日 AI 新闻）、Tech Insider

这是什么

DeepInfer是DeepSeek内部用于跑V4.1 Flash推理服务的引擎。所谓“推理引擎”，就是把训练好的模型真正“跑起来”回答问题的那套软件：它负责把你的问题切成token（模型处理文本的最小单位，大致相当于半个到一个汉字/单词的碎片）、分配给显卡计算、再把生成的文字流式返回。好的推理引擎能让同一张显卡每秒回答更多问题、延迟更低。DeepSeek称，DeepInfer就是生产环境中服务V4.1 Flash的那套系统，现在以Apache 2.0协议开源——这是最宽松的开源协议之一，允许商用、修改与再分发。

具体变了什么

• 支持的硬件：英伟达SM100架构显卡与华为昇腾950芯片；官方给出的高效配置是64块显卡负责“预填充”（prefill，即读入你的问题并算出初始状态）+64块负责“解码”（decode，即一个词一个词生成回答），合计128卡的规模。
• 附带组件deepseek-recipe：一个token编解码组件，作用是让自部署的编解码逻辑与官方API保持一致，避免“同一句话、在官方API与自部署上切出来的token不一样”导致的微妙差异。
• 明确缺失的部分：公开版本目前不包含KV缓存管理系统（KV cache，即模型在生成过程中缓存的中间计算结果，复用它可以大幅加速长对话）、跨机器的解耦式服务（把预填充与解码分到不同机器上）与多副本负载均衡。DeepSeek的文档称，公开版支持“离线推理”所需的核心功能，但上述生产级组件尚未包含。
• 后续承诺：DeepSeek表示，未来模型的推理代码会陆续加入同一框架或仓库。

关键术语解释

推理（inference）就是模型投入使用后回答问题的过程，与“训练”（教模型学习）相对；KV缓存是生成式模型在长对话中避免重复计算的缓存机制，缺了它，长对话会变慢、变贵；解耦式服务（disaggregated serving）是把“读问题”与“写回答”分到不同显卡集群上的架构，能各自独立扩容，是大厂降低延迟的常用手段。

对实际使用者的影响

如果你只是用DeepSeek App或网页聊天，这次开源短期内不会改变你的体验——官方服务本身没变价、没换模型。但如果你（或你所在的实验室/公司）想在自己的服务器上部署DeepSeek模型，DeepInfer提供了一个“官方同款”的起点：不用再从零拼vLLM或SGLang的配置，也不用猜官方的编解码细节。不过要提醒的是：缺少KV缓存管理与负载均衡，意味着它目前更适合离线批量推理或中小规模部署，直接拿去扛高并发在线服务还需自己补齐这些组件。总体判断：值得关注、值得试用，但不要把它当成“开箱即用的生产服务”。

来源

The Diary of AI / Tech Insider，2026-10-20