vLLM 为上海人工智能实验室的 Sage-A1.5 提供 day-0 支持

发生了什么

vLLM 宣布为上海人工智能实验室的 Sage-A1.5 提供 day-0 支持。这是一款拥有 350 亿参数、激活参数为 30 亿的 MoE 模型，今天即可在本地部署服务。 vllm serve InternScience/Sage-A1.5 @‌sageai_official 发布的公告称，该模型支持并行子智能体和自我纠错。

接下来读什么

• 今日还有哪些重要变化微软研究院与合作者借助人类指导的 AI 证明 KLS 猜想

这件事到目前为止

vLLM 新增了对上海人工智能实验室 Sage-A1.5 的首日支持，使该模型能够通过 vLLM 在本地提供服务。Sage-A1.5 是一款混合专家模型，总参数量为 350 亿，激活参数量为 30 亿；用户可以通过 `vllm serve InternScience/Sage-A1.5` 启动它。 Sage 团队的公告介绍了并行子代理和自我纠错能力。