Perplexity 发布了用于统一模型路由和计费的 Orchestrator API
先了解这件事
Perplexity 推出了其 Orchestrator API,为开发者提供统一的计费方式以及对超过 45 种开源权重和专有 AI 模型的访问权限。该平台通过平衡能力、容量、延迟和可用性等因素,自动为每项任务选择最佳模型提供商。 Perplexity 首席执行官 Aravind Srinivas 表示,该服务具有兼容 KV 缓存的、基于决策模型的路由功能。据 Denis Yarats 称,该系统包括自动提供商故障转移功能,并允许根据特定任务类型(如处理安全或生物学查询)进行路由。在 Yarats 提供的一个示例中,将任务路由从 Fable 5.2 切换到 GPT-6.1 Sol,使得在 Terminal-Bench 4.1 上 63 个任务中的已解决任务数量从 38 个增加到了 41 个。
AI 根据报道生成 · 10 小时前更新
接下来读什么
今日还有哪些重要变化OpenAI 发布 GPT-6.2 Astra 和 Sol提到的模型
- OGPT-6.1 Sol综合榜第 10每百万 Token 输入 $2 / 输出 $10
事件进展
2 个进展
- 11月18日 05:05 · 1篇报道Perplexity 分享其 Orchestrator API 上对 KV 缓存友好的路由功能Aravind Srinivas · X:Perplexity Orchestrator API 添加了支持 KV 缓存的决策模型路由
- 11月18日 04:13 · 2篇报道Perplexity 推出 Orchestrator APIAravind Srinivas · X:Perplexity 推出用于模型选择的 Orchestrator API
报道时间线
沿着报道,了解事件的不同侧面。
- Perplexity Orchestrator API 添加了支持 KV 缓存的决策模型路由
Aravind Srinivas 强调了 Perplexity Orchestrator API 中基于决策模型的、与 KV 缓存兼容的路由功能。在引用贴中,Denis Yarats 表示该 API 提供了 45 多种开放权重模型和专有模型、自动供应商故障转移以及统一计费功能。Yarats 举例说明了路由过程:将良性安全和生物学任务,以及拒绝响应后的任何后续任务,从 Fable 5.2 路由至 GPT-6.1 Sol;在 Terminal-Bench 4.1 测试中,解决的任务数从 63 个中的 38 个提升至 41 个。
- Perplexity 推出用于模型选择的 Orchestrator API
Perplexity 正在推出其 Orchestrator API,该 API 通过平衡能力、容量和延迟为每项任务选择合适的模型。开发人员可以从 45 多种开源权重模型和闭源模型中进行选择。
- Perplexity 推出 Orchestrator API
Perplexity 推出了 Orchestrator API,该 API 可根据可用性、容量和延迟选择模型提供商。它将开源权重模型和专有模型整合到一个具有统一计费功能的 API 中。
每天一封,跟上 AI 的重要变化
模型发布、价格变化、算力进展,附原始来源。免费,确认后开始发送,随时一键退订。 看一份往期日报
本事件热度走势
- 可比范围当前
- 15
- 可比范围峰值
- 2011月18日 05:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。