← 返回新闻列表

Decisions API 转正:输出不收钱,比价基准从 token 换成每千次判断

发布于 2026-10-23 12:20:00 · 4 阅读

计价单位变了:从按 token 收费到按“判断”收费

OpenAI 在 10 月 22 日把 Decisions API 转为正式可用(10 月 6 日才开公测),端点 POST /v1/decisions,目前只支持 gpt-6-luna 一个模型。它对 API 货架的改变不在于多了一个模型名,而在于计费结构:输入 0.10 美元/百万 token,缓存输入 0.01 美元/百万,输出 token 完全不收费;代价是缓存写入照常计费,区域处理加价与长上下文倍数照旧。官方的解释也很直白——这个端点返回的是数字而不是文本,出方向没有可计费的东西。

一句话概括:以前比价要看输入、输出、缓存三段,现在只看输入那一段。对用量大、单次判断小的负载,账面成本结构会明显简化;但对长文档类负载,长上下文倍率和缓存前缀 1024 token 的门槛会把省下的钱吃回去。

比价基准要换成“每千次判断”

官方口径下,OpenAI 这一侧的输入价是 0.10 美元/百万 token,专用决策模型 Jev 的挂牌价是 0.042 美元/百万,输入一侧贵约 2.4 倍。但 token 单价不等于业务成本。独立评测 JevBench 10 月 7 日快照给的是实测口径:每千次判断 OpenAI Decisions 约 0.0517 美元,Jev 1.13 约 0.0323 美元,Liquid AI d1 约 0.0173 美元,Sage 1.3 约 0.0247 美元;中位延迟 0.30 秒,对 Jev 的 0.24 秒、d1 的 0.27 秒。同一份榜单里 OpenAI Decisions 在 23 个系统中排第五,且榜单自己注明它与第六名统计上打平——排名不能当结论用。

更值得看的是“通用模型自己干”的对照组:同一个榜单里,gpt-6-luna 用低推理档做同类判断,每千次要 0.1081 美元,中位延迟 1.85 秒,智力分 96.6 明显更高。这组数字说明,把负载搬到决策端点是拿准确率换成本,不是免费的提速。

“10 倍”是谁测的

官方文档写的是“比通过 Responses API 调用 gpt-6-luna 快约 10 倍”,产品负责人对媒体的说法是端到端落在一百多毫秒。独立侧的数字要冷静些:一份公开测试工具在发布日跑了 286 次判断调用,Decisions 中位 346 毫秒、P95 860 毫秒,同期 Jev 为 311 和 517 毫秒;同一批调用花掉 0.0600 美元对 0.0192 美元,约 3.1 倍;另有 4 次调用直接失败(两次 503、两次 502 拒答),Jev 为 0。结论是:快是真的,“快十倍”要看你的输入有多小。

更要紧的空白在别处——官方指南没有给准确率、校准误差或置信度的计算方式,只建议调用方拿自己的标注数据自设阈值。对一个输出本身就是概率的接口,这一栏只能由采购方自己补。

开发者接入前要核的四项

一、可得性窄。目前只有 gpt-6-luna 一个模型,且不在微软 Foundry 的决策通道内(那里只有 Responses 与 Chat Completions)。走微软合同的企业这一轮用不上。

二、缓存有门槛。隐式缓存只覆盖共享输入前缀,且该前缀需达到 1024 token;问题文本在缓存之外,短问题拼不进去。

三、限流沿用 Luna。没有单独的 Decisions 限流记录,Build 档 5,000 请求/分钟、200 万 token/分钟,预算要按 Luna 的档位来做。

四、单请求最多 400 个问题(公测期 200),共享同一份证据。这直接决定批处理设计:把同类判断攒成一批,成本与延迟都按请求摊薄。

我的判断

把 Decisions 当“默认路由器”是错的,当“高频小判断的专用通道”是对的。按 JevBench 实测口径,一家每天 100 万次路由判断的业务,OpenAI 方案约 51.7 美元/天,换 Jev 约 32.3 美元/天,差 19 美元——这个差额不足以驱动迁移;真正驱动迁移的是中位延迟从 1.85 秒压到 0.30 秒带来的体验上限。反过来,如果你的判断要读长文档、或者错一次的代价远高于省下的钱,留在通用模型上更划算。建议的落地顺序是:先用自己的一千条标注样本跑双通道,比误判率而不是比单价;误判率差 1 个百分点,通常就把全部价差吃掉了。

来源:OpenAI 官方文档与发布公告、JevBench 10 月 7 日快照、第三方公开测试工具及行业媒体报道。