Meta 发布了关于 Muse Glimmer 的技术报告。该模型拥有 300 亿参数,采用开放权重,面向消费级硬件上的智能体任务。报告详细介绍了其架构、蒸馏和量化。
Meta 表示,Muse Glimmer 采用 4 位精度时,可在配备单张消费级 GPU 的 Mac 或 PC 上以实用速度运行。该公司还表示,在同等规模的开放模型中,该模型在工具使用和多步规划方面处于领先地位。
Meta 今日发布了 Muse Glimmer 的技术报告。这款 300 亿参数的开放权重模型面向消费级硬件上的智能体任务。
Meta 表示,该模型在 Mac 或 PC 上搭配一块消费级 GPU、采用 4 位精度即可实现实用的运行速度,并且在工具使用和多步骤规划方面领先于规模相近的开放模型。
报告涵盖模型架构、蒸馏、量化等内容:https://go.meta.me/4Bcvxol