Artificial Analysis 报告 Muse Spark Open 在 AA-AgentPerf 上的吞吐量测试结果

发生了什么

Artificial Analysis 报告称，Meta 最新发布的 Muse Spark Open（一款 816B（42B 激活参数）的开放权重模型）测试结果已上线 AA-AgentPerf。初步测试显示，在配备 4 张 NVIDIA GB300 或 B300 GPU 的系统上，每兆瓦功耗的吞吐量最高约为 150M tokens/s。 该帖子还报告了 39 分，但未说明所用基准测试，并附上链接。

接下来读什么

• 今日还有哪些重要变化在 AWS GovCloud（美国）中使用 Amazon Bedrock 配置 ChatGPT 桌面应用

这件事到目前为止

Meta 发布了 Muse Spark Open 的可下载权重。这是一款面向编程和智能体任务的多模态模型。Artificial Analysis 在其 Intelligence Index 中将其列为美国开放权重模型第一名，在 xhigh 设置下得分为 39。该模型约有 8160 亿个参数，每个 token 激活 420 亿个参数，并支持最长 100 万个 token 的上下文。它接受文本、图像、音频和视频输入，并生成文本。Artificial Analysis 首轮 AA-AgentPerf 测试报告称，在使用四块 NVIDIA GB300 或 B300 GPU 时，每兆瓦功率的吞吐量最高约为每秒 1.5 亿个 token。 Meta 表示，该模型可通过 MLX 在两台 Apple M5 Ultra Mac Studio 上运行；Baoyu 报告称，此配置中每台机器使用 512GB 统一内存。vLLM 表示，其支持已在 NVIDIA 和 AMD GPU 以及 TPU 上通过验证。Ollama Cloud 通过 Pro、Max、Pay-as-you-go 和 Teams 套餐提供访问。Amazon SageMaker JumpStart 在发布时提供 BF16 和 NVFP4 版本，区域为美国东部（弗吉尼亚北部）和美国东部（俄亥俄）；只要端点处于运行状态（包括空闲时），就会收费。 该许可证附带条件：The Decoder 报告称，免费使用必须标注“Built with Muse Spark Open”。Baoyu 报告称，适用署名和使用限制；如果企业通过该模型或其修改版本销售 API 服务，且其与关联方在此前 12 个月内的合并收入超过 2000 万美元，则必须通知 Meta 并签署单独协议。