跳到正文

Perplexity 发布了用于统一模型路由和计费的 Orchestrator API

3篇报道 2个报道来源 首报 10 小时前更新

先了解这件事

AI 综述

Perplexity 推出了其 Orchestrator API,为开发者提供统一的计费方式以及对超过 45 种开源权重和专有 AI 模型的访问权限。该平台通过平衡能力、容量、延迟和可用性等因素,自动为每项任务选择最佳模型提供商。 Perplexity 首席执行官 Aravind Srinivas 表示,该服务具有兼容 KV 缓存的、基于决策模型的路由功能。据 Denis Yarats 称,该系统包括自动提供商故障转移功能,并允许根据特定任务类型(如处理安全或生物学查询)进行路由。在 Yarats 提供的一个示例中,将任务路由从 Fable 5.2 切换到 GPT-6.1 Sol,使得在 Terminal-Bench 4.1 上 63 个任务中的已解决任务数量从 38 个增加到了 41 个。

AI 根据报道生成 · 10 小时前更新

接下来读什么

今日还有哪些重要变化OpenAI 发布 GPT-6.2 Astra 和 Sol

提到的模型

  • GPT-6.1 Sol综合榜第 10每百万 Token 输入 $2 / 输出 $10

事件进展

2 个进展

  1. 11月18日 05:05 · 1篇报道
    Perplexity 分享其 Orchestrator API 上对 KV 缓存友好的路由功能
    Aravind Srinivas · X:Perplexity Orchestrator API 添加了支持 KV 缓存的决策模型路由
  2. 11月18日 04:13 · 2篇报道
    Perplexity 推出 Orchestrator API
    Aravind Srinivas · X:Perplexity 推出用于模型选择的 Orchestrator API

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. Perplexity Orchestrator API 添加了支持 KV 缓存的决策模型路由

    Aravind Srinivas 强调了 Perplexity Orchestrator API 中基于决策模型的、与 KV 缓存兼容的路由功能。在引用贴中,Denis Yarats 表示该 API 提供了 45 多种开放权重模型和专有模型、自动供应商故障转移以及统一计费功能。Yarats 举例说明了路由过程:将良性安全和生物学任务,以及拒绝响应后的任何后续任务,从 Fable 5.2 路由至 GPT-6.1 Sol;在 Terminal-Bench 4.1 测试中,解决的任务数从 63 个中的 38 个提升至 41 个。

  2. Perplexity 推出用于模型选择的 Orchestrator API

    Perplexity 正在推出其 Orchestrator API,该 API 通过平衡能力、容量和延迟为每项任务选择合适的模型。开发人员可以从 45 多种开源权重模型和闭源模型中进行选择。

  3. Perplexity 推出 Orchestrator API

    Perplexity 推出了 Orchestrator API,该 API 可根据可用性、容量和延迟选择模型提供商。它将开源权重模型和专有模型整合到一个具有统一计费功能的 API 中。

每天一封,跟上 AI 的重要变化

模型发布、价格变化、算力进展,附原始来源。免费,确认后开始发送,随时一键退订。 看一份往期日报

本事件热度走势

可比范围当前
15
可比范围峰值
2011月18日 05:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。