Meta 发布 Muse Spark Open:开放权重的多模态混合专家模型
Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta
- 谁
- Meta
- 引文
Muse Spark Open is an open-weight model from Meta.
发生了什么
Meta 的 Muse Spark Open 是一款开放权重的混合专家模型,约有 8160 亿个参数,每个 token 激活约 420 亿个参数,上下文窗口最长可达 100 万个 token。该模型经过智能体编程训练,可接收文本、图像、音频和视频,并生成文本。Hugging Face 提供推理和部署方案,报告了其自身的量化测试结果,并演示了使用 TRL 对注意力层进行 LoRA 微调,同时冻结专家网络。
推荐理由
这些部署方案阐明了稀疏专家激活如何在保留大量内存需求的同时减少每个 token 的计算量,帮助开发者根据不同检查点格式和服务框架评估硬件需求。
10 家信源报道
这件事到目前为止
Meta 发布了可下载权重的 Muse Spark Open。这是一款面向编程和智能体任务的多模态模型,支持在本地 Mac 和云端部署。Artificial Analysis 在其 Intelligence Index 中将其列为美国开放权重模型第一名;该模型在 xhigh 设置下得分为 39。模型约有 8160 亿个参数,每个 token 激活 420 亿个参数,上下文长度最高可达 100 万个 token。它可接收文本、图像、音频和视频,并生成文本。 Meta 表示,该模型可通过 MLX 在两台 Apple M5 Ultra Mac Studio 上运行;Baoyu 报道称,此配置中每台机器配有 512GB 统一内存。vLLM 表示,其支持已在 NVIDIA 和 AMD GPU 及 TPU 上验证。Ollama Cloud 通过 Pro、Max、Pay-as-you-go 和 Teams 套餐提供访问。Amazon SageMaker JumpStart 在发布时于美国东部(弗吉尼亚北部)和美国东部(俄亥俄州)提供 BF16 和 NVFP4 变体;端点只要处于运行状态就会计费,包括空闲时段。 The Decoder 报道称,免费使用时必须标注“Built with Muse Spark Open”。Baoyu 报道称,使用须遵守署名和使用限制;如果企业通过销售该模型或其修改版本的 API 获得收入,且该企业与其关联方在此前 12 个月内的合计收入超过 2000 万美元,则必须通知 Meta 并签署单独协议。
继续阅读
最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线正在热议
明早 08:00 把这样一份日报发到你邮箱
和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报 · 2026-10-17
