Artificial Analysis 现在公布受追踪的第一方和第三方模型端点的缓存命中率,以及开放权重模型的服务商级每项任务成本比较。它通过运行多轮智能体编程任务,并读取各服务商用量响应中的缓存令牌数量来测量缓存命中率。成本比较采用各服务商的输入、输出、缓存命中和缓存写入价格,并按测得的缓存命中率计算;所用令牌数量与各模型在 Intelligence Index 测试中的令牌数量相同。
Artificial Analysis 报告称,GLM-5.3 (max) 在 Nebius 上每项任务的成本约为 Makora 的九倍,分别为 $8.68 和 $0.92;这主要是由于输入价格差异,尽管这两家服务商的缓存命中率都很高。在涵盖 25 个端点的 21 家服务商中,测得的缓存命中率介于 41% 至 100% 之间。
AI 根据报道生成 · 3 天前更新