跳到正文

Perplexity 推出 Orchestrator API

Perplexity · X当事人· @perplexity_ai·· 11 小时前

1.6万 次浏览 · 149 赞 · 17 转发 (收录时)

原文

发生了什么

Perplexity 推出了 Orchestrator API,该 API 可根据可用性、容量和延迟选择模型提供商。它将开源权重模型和专有模型整合到一个具有统一计费功能的 API 中。

正文 · 中文版本尚未就绪(原文)

Introducing the Perplexity Orchestrator API.

Orchestrator lets you choose the right model for the right task, and automatically selects the provider based on availability, capacity, and latency.

All open-weight and proprietary models are in one API with unified billing.

2 家信源报道

    这件事到目前为止

    Perplexity 推出了其 Orchestrator API,为开发者提供统一的计费方式以及对超过 45 种开源权重和专有 AI 模型的访问权限。该平台通过平衡能力、容量、延迟和可用性等因素,自动为每项任务选择最佳模型提供商。 Perplexity 首席执行官 Aravind Srinivas 表示,该服务具有兼容 KV 缓存的、基于决策模型的路由功能。据 Denis Yarats 称,该系统包括自动提供商故障转移功能,并允许根据特定任务类型(如处理安全或生物学查询)进行路由。在 Yarats 提供的一个示例中,将任务路由从 Fable 5.2 切换到 GPT-6.1 Sol,使得在 Terminal-Bench 4.1 上 63 个任务中的已解决任务数量从 38 个增加到了 41 个。

    这件事的进展 · 2

    查看完整事件
    1. 11月18日 05:14
      Perplexity Orchestrator API 添加了支持 KV 缓存的决策模型路由Aravind Srinivas · X
    2. 11月18日 04:14

      Perplexity 推出 Orchestrator API 本条

    接下来读什么

    查看这件事的完整进展Perplexity 发布了用于统一模型路由和计费的 Orchestrator API