DeepSeek 开源 DeepInfer：驱动 V4.1-Flash 的推理框架
Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
- 谁
- DeepSeek
- 时间
- 引文
Deepseek has open-sourced DeepInfer, its internal inference framework, under the Apache License 2.0.
发生了什么
DeepSeek 已根据 Apache License 2.0 开源其内部推理框架 DeepInfer，该框架为 V4.1-Flash 提供支持。DeepInfer 基于 vLLM 构建，包含经过优化的计算内核、跨多颗芯片的分布式处理，以及更快的文本生成技术。DeepSeek 还将发布 deepseek-recipe，以便在自托管环境中复现官方 API 的令牌处理方式，并表示未来模型的代码也将开源。
推荐理由
此次发布将开源范围从模型权重扩展到服务基础设施，让自托管团队能够使用 DeepSeek 用来降低推理成本的软件。
5 家信源报道
这件事到目前为止
DeepSeek 已在 Apache 2.0 许可下开源 DeepInfer——据其称，该推理框架为 DeepSeek-V4.1-Flash 提供大规模推理支持——并同时发布名为 deepseek-recipe 的配套组件。据 Baoyu 报道，DeepInfer 目前仅支持在 Nvidia Blackwell SM100 或 Huawei Ascend 950 硬件上运行 V4.1-Flash；此次发布提供的是离线推理组件，因此在线服务还需要额外的基础设施。 据 The Decoder 报道，DeepInfer 包含经过优化的计算内核、跨多个芯片分配的处理，以及加速文本生成的技术。vLLM 表示，该框架最初主要基于 vLLM 构建，并计划借鉴 DeepInfer 的思路来提高推理效率。DeepSeek 将高吞吐量和低延迟描述为其生产系统的特点，并将降低计算成本和能源消耗列为开源分享该系统的目标。 Baoyu 报道称，采用 MIT 许可的 deepseek-recipe 提供 Python 和 Rust 实现，支持 V4 和 V4.1，可转换常见的 OpenAI 和 Anthropic 请求格式及模型输出，使其与 DeepSeek 官方 API 保持一致。The Decoder 还报道称，DeepSeek 表示将开源未来模型的代码。
继续阅读
最新日报 · 第 27 期TorchNeuron 为 AWS Trainium 上的 Hugging Face 模型带来原生 PyTorch 支持正在热议
明早 08:00 把这样一份日报发到你邮箱
和上面这份一样：几件值得看的事。免费，点确认信之后才会开始发送，每封信都能一键退订。 看一份往期日报 · 2026-10-20