Ollama 和 vLLM 增加对 Recursive_SI Flint 编码模型的支持

Ollama 让 Recursive_SI 的 Flint 编码模型可在本地运行，vLLM 则宣布从发布首日起支持该模型，并已准备好 NVFP4 和 BF16。Flint 是一款开放的混合专家模型，参数量约为 400 亿；vLLM 表示，每个 token 激活 25 亿个参数。Ollama 称，该模型专为设备端智能体编码而设计。 各平台在不同硬件和上下文条件下报告了性能数据。Ollama 报告称，在 M4 Pro MacBook Pro 上每秒处理超过 125 个 token，在配备 64GB 内存的 NVIDIA RTX Spark 上每秒处理超过 150 个 token，两种情况的上下文都较短。vLLM 报告称，其定制 NVFP4 内核在单台 GB200 上每秒处理 500 个 token，即使上下文长达 10 万个 token，且未使用推测解码。

AI 根据报道生成 · 1 小时前更新

1. 10月22日 01:22 · 1篇报道
   Ollama 增加对 Recursive Superintelligence Flint 模型的支持，助力本地编码
   Ollama · X：Ollama 推出 Flint：Recursive_SI 的约 400 亿参数 MoE 开源模型，面向设备端编程
2. 10月22日 00:45 · 1篇报道
   vLLM 增加对 Flint 的首日支持
   vLLM · X：vLLM 为 Recursive_SI 的 Flint 编码模型提供首日支持

还没有足够的连续观测数据，暂不绘制趋势。