跳到正文

Artificial Analysis 新增服务商缓存命中率和每项任务成本比较

1篇报道 1个报道来源 3 天前更新

先了解这件事

AI 综述

Artificial Analysis 现在公布受追踪的第一方和第三方模型端点的缓存命中率,以及开放权重模型的服务商级每项任务成本比较。它通过运行多轮智能体编程任务,并读取各服务商用量响应中的缓存令牌数量来测量缓存命中率。成本比较采用各服务商的输入、输出、缓存命中和缓存写入价格,并按测得的缓存命中率计算;所用令牌数量与各模型在 Intelligence Index 测试中的令牌数量相同。 Artificial Analysis 报告称,GLM-5.3 (max) 在 Nebius 上每项任务的成本约为 Makora 的九倍,分别为 $8.68 和 $0.92;这主要是由于输入价格差异,尽管这两家服务商的缓存命中率都很高。在涵盖 25 个端点的 21 家服务商中,测得的缓存命中率介于 41% 至 100% 之间。

AI 根据报道生成 · 3 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. Artificial Analysis 新增提供商级缓存命中率和每任务成本

    Artificial Analysis 现已公布其追踪的模型端点的缓存命中率,以及开放权重模型的提供商级每任务成本。 缓存命中率通过多轮智能体编程任务测得;提供商成本比较使用各模型在 Intelligence Index 测试中相同的 token 数量。 GLM-5.3(max)的成本相差约 9 倍,从 Makora 的 0.92 美元到 Nebius 的 8.68 美元,差异主要源于输入定价,尽管两者的缓存命中率都很高。在 21 家提供商(25 个端点)中,缓存命中率介于 41% 至 100%。

继续阅读

最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线

正在热议

  1. 1Meta 开放发布 Muse Spark Open,支持 Mac 和云端部署,位居美国开放权重模型榜首
  2. 2Google 在全球推出 Gemini 4 Argon,并扩大付费访问范围,基准测试结果不一
  3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
  4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议