OpenAI推决策专用API,延迟降90%
推荐指数 75.0 NO. 001 · 2026.10.23
发布2026/10/22
简介
Decisions API正式GA,基于GPT-6 Luna专为分类、路由等边界明确的决策场景优化,比标准Responses API快10倍。AI应用里大量微决策的延迟和成本痛点终于有了针对性解法,实时Agent架构可以重新设计了。
编辑判断
这个API的真正价值不在"快",而在OpenAI终于承认通用大模型API不适合做微决策——之前大家被迫用ChatCompletion跑分类,成本高得离谱。GPT-Live原生集成意味着它瞄准的是实时语音/视频Agent的决策链路,不是传统文本bot。
Prompt caching和EU residency是合规刚需,但更值得盯的是定价策略:如果决策token比标准输出便宜一个数量级,很多做边缘路由的创业公司(如基础模型路由层)的商业模式会被直接击穿。做Agent编排平台的团队需要评估,是否把决策层从自研规则引擎迁移到OpenAI托管。