GPT-6 缓存折扣最高 90%
推荐指数 71.0 NO. 001 · 2026.09.23
发布2026/09/22
为什么值得看
GPT-6 升级了 prompt caching 系统，默认缓存命中率更高，持续运行数小时的 agent 可复用上下文降低延迟和成本。对构建长时运行 agent 的开发者，这是直接降低 API 账单和响应延迟的基建升级。
编辑判断
OpenAI 把 caching 从优化项变成默认基建，说明他们押注长时 agent 是下一个核心场景。90% 折扣看似让利，实则是锁定开发者做重 agent 架构的钩子——切换成本一旦形成，很难迁移到 Anthropic 或 Gemini。
真正值得观察的是缓存命中率的实际表现：之前 GPT-4o 的 caching 在复杂 tool calling 链中经常失效，导致成本不可预测。如果 GPT-6 解决了跨 turn 的 context 一致性，这会让小时级 agent 的 unit economics 首次成立。
建议：正在做 coding agent、research agent 的团队，立刻跑一下你的典型会话的缓存命中率对比，这直接决定你的定价模型能不能打平。