跳到正文
原文
产品vLLM · X当事人· @vllm_project·· 1 天前精选

950 次浏览 · 20 赞 · 3 转发 (收录时)

vLLM 新增对 Meta 开放权重模型 Muse Spark Open 的首日支持

谁
vLLM
时间

发生了什么

vLLM 现已提供对 Meta 开放权重模型 Muse Spark Open 的首日支持,并已在 NVIDIA 和 AMD GPU 以及 TPU 上完成验证! 该模型拥有 816B 个参数,每个 token 激活 42B 个参数,支持 1M token 的上下文,输入包括图像、视频和音频,专为长周期智能体编程而构建。 我们很高兴能够参与合作

原帖含 1 个链接

推荐理由

在 NVIDIA 和 AMD GPU 以及 TPU 上完成验证,为部署团队提供了通过 vLLM 运行 Meta 开放权重模型时所需的具体硬件兼容性信息。

2 篇报道

    这件事到目前为止

    Meta 发布了可下载权重的 Muse Spark Open。这是一款面向编程和智能体任务的多模态模型,支持在本地 Mac 和云端部署。Artificial Analysis 在其 Intelligence Index 中将其列为美国开放权重模型第一名;该模型在 xhigh 设置下得分为 39。模型约有 8160 亿个参数,每个 token 激活 420 亿个参数,上下文长度最高可达 100 万个 token。它可接收文本、图像、音频和视频,并生成文本。 Meta 表示,该模型可通过 MLX 在两台 Apple M5 Ultra Mac Studio 上运行;Baoyu 报道称,此配置中每台机器配有 512GB 统一内存。vLLM 表示,其支持已在 NVIDIA 和 AMD GPU 及 TPU 上验证。Ollama Cloud 通过 Pro、Max、Pay-as-you-go 和 Teams 套餐提供访问。Amazon SageMaker JumpStart 在发布时于美国东部(弗吉尼亚北部)和美国东部(俄亥俄州)提供 BF16 和 NVFP4 变体;端点只要处于运行状态就会计费,包括空闲时段。 The Decoder 报道称,免费使用时必须标注“Built with Muse Spark Open”。Baoyu 报道称,使用须遵守署名和使用限制;如果企业通过销售该模型或其修改版本的 API 获得收入,且该企业与其关联方在此前 12 个月内的合计收入超过 2000 万美元,则必须通知 Meta 并签署单独协议。

    继续阅读

    最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线

    正在热议

    1. 2Google 在全球推出 Gemini 4 Argon,并扩大付费访问范围,基准测试结果不一
    2. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
    3. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议
    4. 5Reflection发布Beam开放权重模型,发布首日即支持vLLM

    明早 08:00 把这样一份日报发到你邮箱

    和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报 · 2026-10-17