跳到正文

DeepSeek 开源 DeepInfer 推理框架,获 vLLM 致谢

2篇报道 2个报道来源 1 小时前更新

先了解这件事

AI 综述

DeepSeek 已在 GitHub 上开源其内部开发的推理框架 DeepInfer,并发布了据其称为 DeepSeek-V4.1-Flash 提供大规模支持的生产技术栈。DeepSeek 表示,该框架具有高吞吐量和低延迟,并希望帮助社区降低计算成本、减少能源使用,让 AI 更加普及。 vLLM 感谢 DeepSeek 以 Apache 2.0 许可证发布 DeepInfer,并表示该框架最初主要基于 vLLM 构建。vLLM 团队表示,计划借鉴 DeepInfer 的理念来提升推理效率。

AI 根据报道生成 · 21 分钟前更新

提到的模型

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. vLLM · X精选
    DeepSeek 开源 DeepInfer 推理框架,获 vLLM 致谢

    DeepSeek 宣布推出 DeepInfer,这是其自研推理框架,为 DeepSeek-V4.1-Flash 提供大规模、高吞吐量和低延迟推理支持。 vLLM 感谢 DeepSeek 以 Apache 2.0 许可证发布该框架,并表示它最初主要基于 vLLM 构建;vLLM 计划借鉴其中的思路,以提升推理效率。 http://github.com/deepseek-ai/DeepInfer

  2. DeepSeek 开源其自研推理框架 DeepInfer

    🚀 隆重推出 DeepInfer,我们自研的推理框架,现已全面开源! 以高吞吐量和低延迟,为 DeepSeek-V4.1-Flash 提供大规模支持。我们分享这套生产级技术栈,帮助社区降低计算成本、减少能源消耗,让 AI 更加普惠。 🔗 http://github.com/deepseek-ai/DeepInfer 1/4

明早 08:00 把这样一份日报发到你邮箱

和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。

继续阅读

最新日报 · 第 27 期TorchNeuron 为 AWS Trainium 上的 Hugging Face 模型带来原生 PyTorch 支持

正在热议

  1. 2MiniMax 发布 M3.1 Flash,基准测试得分更高,任务成本低于 M3
  2. 3Anthropic承诺将其5%的股份投入新设公益基金