发生了什么
Perplexity 推出了 Orchestrator API,该 API 可根据可用性、容量和延迟选择模型提供商。它将开源权重模型和专有模型整合到一个具有统一计费功能的 API 中。
Introducing the Perplexity Orchestrator API.
Orchestrator lets you choose the right model for the right task, and automatically selects the provider based on availability, capacity, and latency.
All open-weight and proprietary models are in one API with unified billing.
2 家信源报道
这件事到目前为止
Perplexity 推出了其 Orchestrator API,为开发者提供统一的计费方式以及对超过 45 种开源权重和专有 AI 模型的访问权限。该平台通过平衡能力、容量、延迟和可用性等因素,自动为每项任务选择最佳模型提供商。 Perplexity 首席执行官 Aravind Srinivas 表示,该服务具有兼容 KV 缓存的、基于决策模型的路由功能。据 Denis Yarats 称,该系统包括自动提供商故障转移功能,并允许根据特定任务类型(如处理安全或生物学查询)进行路由。在 Yarats 提供的一个示例中,将任务路由从 Fable 5.2 切换到 GPT-6.1 Sol,使得在 Terminal-Bench 4.1 上 63 个任务中的已解决任务数量从 38 个增加到了 41 个。
这件事的进展 · 2
查看完整事件- 11月18日 05:14Perplexity Orchestrator API 添加了支持 KV 缓存的决策模型路由Aravind Srinivas · X
- 11月18日 04:14
Perplexity 推出 Orchestrator API 本条

