OpenAI 在 API 中新增可选的 12 小时提示缓存

发生了什么

现在，你可以在 API 中选择使用 12 小时提示缓存。 像 dots 这样的持久化智能体可以在一天中反复使用上下文。 你可以让共享指令、工具和上下文保持缓存更长时间，并按较低的缓存输入费率付费，即使请求间隔数小时也不例外。

这件事到目前为止

OpenAI 为其 API 增加了可选的 12 小时提示词缓存设置，使开发者能够保留共享指令、工具和上下文，以便在相隔数小时的多个请求中重复使用。 OpenAI 表示，重复使用缓存输入的请求可以享受较低的缓存输入费率。该公司称，较长的缓存时长适用于全天持续重复使用上下文的持久型智能体。

继续阅读

正在热议

1. 1DeepSeek 开源 DeepInfer 和 API 组件，但模型与硬件支持有限
2. 2Mistral 发布 Voxtral 3 语音模型、语音代理 API 和基于 LiveKit 的 SDK
3. 3OpenAI 收购 Orchestra Bio，拓展药物研发 AI 工具
4. 4OpenAI 在 ChatGPT 中推出锁定聊天功能，支持 PIN 码和生物识别访问