Liquid AI 发布 LFM2.5-24B-A2B,打造快速、私密的设备端智能体
Run fast, private agents on-device with LFM2.5-24B-A2B
- 谁
- Liquid AI
- 引文
Both LFM2.5-24B-A2B and LFM2.5-24B-A2B-Base are open-weight and available on Hugging Face today:
发生了什么
Liquid AI 发布了 LFM2.5-24B-A2B,这是一款开放权重推理模型,总参数量为 24B,激活参数量为 2B,面向能够进行推理并调用工具的设备端智能体。其上下文窗口从 32K 扩展至 131K 个 token,推理版和 Base 版均已在 Hugging Face 上提供。Liquid AI 报告称,该模型在 Apple M5 Max 上的速度为 184 tokens/s,工具使用表现具有竞争力,同时也承认,在知识密集型和代码基准测试中,更大的模型仍有优势。
推荐理由
基准测试对比有助于区分适合本地部署的工作负载:该模型在工具使用和指令遵循方面表现出色,但在知识和代码方面不及某些更大的模型。
这件事到目前为止
Liquid AI 发布了用于设备端推理和工具调用的 LFM2.5-24B-A2B,推理版和 Base 权重已在 Hugging Face 上提供,该模型现也可通过 Ollama 使用。Ollama 分享了命令 `ollama run lfm2.5:24b`,可在笔记本电脑和 PC 上本地运行该模型。 该模型共有 240 亿个参数,每个 token 激活 20 亿个参数,并将上下文窗口从 32K 扩展至 131K 个 token。Liquid AI 报告称,该模型在 Apple M5 Max 上的生成速度为每秒 184 个 token,工具调用表现也具有竞争力;同时也承认,在知识密集型和编程基准测试中,更大的模型仍有优势。
继续阅读
最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线正在热议
明早 08:00 把这样一份日报发到你邮箱
和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报 · 2026-10-17
