vLLM 新增对 Mistral Large 4 的首日支持

发生了什么

vLLM 宣布首日支持 MistralAI 的 Mistral Large 4。这是一款拥有万亿参数、支持多模态的混合专家模型（MoE），上下文长度达 1M，可用于高级编程、推理和网络安全相关任务。 提供 FP8 和 NVFP4 检查点，并内置 DSpark 起草器。https://twitter.com/1667249535519805451/status/2115811242556137820

接下来读什么

• 今日还有哪些重要变化Google DeepMind 发布 Gemini 4 Carbon，具备网络安全和长时程能力

这件事到目前为止

Mistral AI 发布了改进版 Mistral Large 4 开放权重，该模型也称 Le Chonk，并获得 NVIDIA 和 vLLM 在发布当日提供的推理支持。Mistral 表示，其许可允许免费使用、修改、微调和商业化，但运营模型即服务（Model-as-a-Service）业务的企业必须在商业使用前取得单独许可。The Decoder 对这一例外的描述范围更窄，称其适用于将 Large 4 作为商业云服务提供的公司，并报道称，获取许可需要经过审核且受到合同限制。 这款多模态模型面向智能体编程和网络安全。Artificial Analysis 列出的总参数量为 1.05 万亿，激活参数量为 520 亿，并称其以微弱优势领先于中国以外开发的开放权重模型。Mistral 报告称，该模型在 Artificial Analysis Coding Agent Index 中得分为 48%，每项任务使用的 token 比 GLM-5.3 少 47%；在 Cognition 的 FrontierCode 排行中，它位列开放模型第一。这些编程表现的说法与 The Decoder 报告的 Artificial Analysis 总体得分 26 的范围不同；后者将它排在几款中国竞争对手之后。 NVIDIA 在 Hugging Face 上发布了 NVFP4 权重，并公布了用于分布式推理的优化版 Dynamo 配置。vLLM 增加了对 FP8 和 NVFP4 检查点的支持，并内置 DSpark 起草器；据其介绍，该模型支持 100 万 token 的上下文窗口。