2787 次浏览 · 24 赞 · 2 转发 (收录时)
Artificial Analysis 新增提供商级缓存命中率和每任务成本
发生了什么
Artificial Analysis 现已公布其追踪的模型端点的缓存命中率,以及开放权重模型的提供商级每任务成本。 缓存命中率通过多轮智能体编程任务测得;提供商成本比较使用各模型在 Intelligence Index 测试中相同的 token 数量。 GLM-5.3(max)的成本相差约 9 倍,从 Makora 的 0.92 美元到 Nebius 的 8.68 美元,差异主要源于输入定价,尽管两者的缓存命中率都很高。在 21 家提供商(25 个端点)中,缓存命中率介于 41% 至 100%。
这件事到目前为止
Artificial Analysis 现在公布受追踪的第一方和第三方模型端点的缓存命中率,以及开放权重模型的服务商级每项任务成本比较。它通过运行多轮智能体编程任务,并读取各服务商用量响应中的缓存令牌数量来测量缓存命中率。成本比较采用各服务商的输入、输出、缓存命中和缓存写入价格,并按测得的缓存命中率计算;所用令牌数量与各模型在 Intelligence Index 测试中的令牌数量相同。 Artificial Analysis 报告称,GLM-5.3 (max) 在 Nebius 上每项任务的成本约为 Makora 的九倍,分别为 $8.68 和 $0.92;这主要是由于输入价格差异,尽管这两家服务商的缓存命中率都很高。在涵盖 25 个端点的 21 家服务商中,测得的缓存命中率介于 41% 至 100% 之间。
继续阅读
最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线正在热议
明早 08:00 把这样一份日报发到你邮箱
和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报 · 2026-10-17
