OpenAI Decisions API 正式 GA:GPT-6 Luna 专做有界决策,最高约快 10 倍
OpenAI 10 月 22 日宣布 Decisions API 全面可用:基于 GPT-6 Luna,面向分类/路由/打分等有界答案,自称比 Responses API 上的 Luna 最高约快 10 倍;仅收输入 token(约 $0.10/百万,缓存 $0.01),支持原生 JSON、图片与最多 400 问/次,并与 GPT-Live 语音集成。
官方称应用与 Agent 工作流里大量小决策(分类、路由、下一步动作)堆起来会拖慢时延与成本。Decisions API 把 Luna 压到有界答案:开发者定义问题与允许选项,喂文本/图片/原生 JSON,返回概率(predicate)、选项(choice)或量表分(score)。自公开测试以来新增 GPT-Live 原生集成、复用上下文的 prompt caching、美欧推理驻留,单次问题上限从 200 提到 400;并称亚洲多区扩容改善延迟。
定价只计输入:约 $0.10/百万 token,缓存输入约 $0.01,无输出费。Box 称保险证明路由约 5× 更快且准确率持平;Datadog 称 Agent 修障前对 rshell 风险打分 p95 约快 40×;Ramp 归因 AI 成本约 4× 更快、便宜 30%;Sierra 客服编排 p95 低于 280ms;Speak 称 Live 下一动作时延从约 1.4s 降到 0.13s。Dots 团队也用于缩短响应。Playground 与开发者文档现已开放。


