391 次浏览 · 4 赞 · 0 转发 (收录时)
vLLM 新增对 Ling-3.1-flash 的 Day-0 支持
发生了什么
vLLM 已支持在 Ling-3.1-flash 发布首日即使用! 总参数量约 560B,每个 token 激活约 25B 参数,上下文长度最高达 1M。从简略需求说明到网站、移动端 UI 和交互式原型,都可以通过 vLLM 部署在自己的基础设施上。 祝贺 @AntLingAGI! https://twitter.com/AntLingAGI/status/2110390124743970952
这件事到目前为止
vLLM 宣布为 Ling-3.1-flash 提供 Day-0 支持,用户因此可以在自己的基础设施上部署该模型。据 vLLM 称,该模型总参数量约为 5600 亿,每个 token 激活约 250 亿个参数,支持最长达 100 万个 token 的上下文窗口。 vLLM 将该模型描述为能够把粗略的需求简报转化为网站、移动用户界面和交互式原型。
继续阅读
最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线正在热议
明早 08:00 把这样一份日报发到你邮箱
和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报 · 2026-10-17
