在 Amazon Bedrock 上使用 OpenAI 模型的 AI 智能体提示缓存指南
Claudio Mazzoni 介绍了在 Amazon Bedrock 上使用 OpenAI 模型时,如何将适用于不断增长的对话的隐式缓存,与用于共享工具和指令的显式断点结合起来。本指南涵盖如何在工具变更、子智能体和会话之间保持缓存复用,以及如何监控缓存读取和写入。在一个包含六轮的 GPT-6 Astra 工作负载中,隐式缓存将输入成本降低了约 62%,而显式滚动断点节省了约 61%。

推荐理由
在追加新上下文的同时保持共享提示前缀稳定,可形成一种可复用于智能体各轮对话、工具变更、辅助调用和会话的缓存模式。
















