发生了什么
Perplexity 正在推出其 Orchestrator API,该 API 通过平衡能力、容量和延迟为每项任务选择合适的模型。开发人员可以从 45 多种开源权重模型和闭源模型中进行选择。
Perplexity is the industry leader that defined what a company built around multi-model orchestration could look like. Today, we’re launching our Orchestrator API, that picks the right model for your task: balancing across capability, capacity and latency, and, giving you the flexibility to choose across 45+ open-weight and closed models.
在 X 查看被引用的帖子Introducing the Perplexity Orchestrator API.
Orchestrator lets you choose the right model for the right task, and automatically selects the provider based on availability, capacity, and latency.
All open-weight and proprietary models are in one API with unified billing.
2 家信源报道
这件事到目前为止
Perplexity 推出了其 Orchestrator API,为开发者提供统一的计费方式以及对超过 45 种开源权重和专有 AI 模型的访问权限。该平台通过平衡能力、容量、延迟和可用性等因素,自动为每项任务选择最佳模型提供商。 Perplexity 首席执行官 Aravind Srinivas 表示,该服务具有兼容 KV 缓存的、基于决策模型的路由功能。据 Denis Yarats 称,该系统包括自动提供商故障转移功能,并允许根据特定任务类型(如处理安全或生物学查询)进行路由。在 Yarats 提供的一个示例中,将任务路由从 Fable 5.2 切换到 GPT-6.1 Sol,使得在 Terminal-Bench 4.1 上 63 个任务中的已解决任务数量从 38 个增加到了 41 个。
这件事的进展 · 2
查看完整事件- 11月18日 05:14
Perplexity 推出用于模型选择的 Orchestrator API 本条
- 11月18日 05:14Perplexity Orchestrator API 添加了支持 KV 缓存的决策模型路由Aravind Srinivas · X
