跳到正文

Perplexity 推出用于模型选择的 Orchestrator API

Aravind Srinivas · X当事人· @AravSrinivas·· 11 小时前

6979 次浏览 · 82 赞 · 6 转发 (收录时)

原文

发生了什么

Perplexity 正在推出其 Orchestrator API,该 API 通过平衡能力、容量和延迟为每项任务选择合适的模型。开发人员可以从 45 多种开源权重模型和闭源模型中进行选择。

正文 · 中文版本尚未就绪(原文)

Perplexity is the industry leader that defined what a company built around multi-model orchestration could look like. Today, we’re launching our Orchestrator API, that picks the right model for your task: balancing across capability, capacity and latency, and, giving you the flexibility to choose across 45+ open-weight and closed models.

引用Perplexity@perplexity_ai

Introducing the Perplexity Orchestrator API.

Orchestrator lets you choose the right model for the right task, and automatically selects the provider based on availability, capacity, and latency.

All open-weight and proprietary models are in one API with unified billing.

在 X 查看被引用的帖子

2 家信源报道

    这件事到目前为止

    Perplexity 推出了其 Orchestrator API,为开发者提供统一的计费方式以及对超过 45 种开源权重和专有 AI 模型的访问权限。该平台通过平衡能力、容量、延迟和可用性等因素,自动为每项任务选择最佳模型提供商。 Perplexity 首席执行官 Aravind Srinivas 表示,该服务具有兼容 KV 缓存的、基于决策模型的路由功能。据 Denis Yarats 称,该系统包括自动提供商故障转移功能,并允许根据特定任务类型(如处理安全或生物学查询)进行路由。在 Yarats 提供的一个示例中,将任务路由从 Fable 5.2 切换到 GPT-6.1 Sol,使得在 Terminal-Bench 4.1 上 63 个任务中的已解决任务数量从 38 个增加到了 41 个。

    这件事的进展 · 2

    查看完整事件
    1. 11月18日 05:14

      Perplexity 推出用于模型选择的 Orchestrator API 本条

    2. 11月18日 05:14
      Perplexity Orchestrator API 添加了支持 KV 缓存的决策模型路由Aravind Srinivas · X

    接下来读什么

    查看这件事的完整进展Perplexity 发布了用于统一模型路由和计费的 Orchestrator API