据 OpenAI 开发者社区十月八日晚间公告,GPT-6.1 Sol 的 Ultrafast 模式当日起在 Responses API、Codex 和 ChatGPT Work 三个渠道同步灰度上线。开发者在 API 请求中把 service_tier 字段设为 ultrafast,即可获得比 fast 档位更短的首 token 延迟。这是 OpenAI 继七月三十日把 priority 改名 fast 之后,又拆出的一个新速度层级。
三层服务档位从慢到快依次为 default、fast、ultrafast。default 走共享推理集群,最便宜但排队不确定;fast 预留专用容量,有延迟 SLA;ultrafast 则是给对首 token 延迟极度敏感的生产场景准备的,价格最高。据 OpenAI 文档,ultrafast 请求不适用批量折扣,也不享受 prompt 缓存读取价。
对做实时对话或函数链式调用的团队来说,ultrafast 的价值在于把模型思考时间从秒级压到亚秒级。但代价是每百万 token 单价显著上涨,适合只在关键链路启用,而不是全量切换。
从实际调用的角度看,切换档位不需要改任何业务逻辑——只需要在请求体里加一个字段。这听起来很简单,但很多团队踩的坑是:他们把 service_tier 写在了错误的位置。Responses API 里这个参数是顶层字段,不是嵌在 model 参数下面的。放错位置会被静默忽略,结果你付了 ultrafast 的钱却跑着 default 的延迟。
另一个常见误区是认为开了 ultrafast 就所有请求都快。实际上这个档位优化的主要是首 token 延迟,也就是用户从发请求到看到第一个字的等待时间。生成速度本身并不会明显变快。如果你的场景是长文本生成而不是首字响应,ultrafast 带来的体验提升有限。
ultrafast 跟 fast 到底差在哪一档?
根据 OpenAI 公开的定价表,fast 档位的短上下文输入和输出价格大约是 default 的两倍,而 ultrafast 在此基础上又有溢价。短期上下文和长期上下文的加价幅度不同——长上下文场景下 ultrafast 的边际成本更高,因为 KV 缓存的资源占用更大。
调用时参数怎么写才不会报错?
实战中建议先在测试环境对比三个档位的 P50 和 P99 延迟。很多团队发现 fast 已经足够覆盖业务需求,ultrafast 只在用户等待体验直接影响转化的关键路径上才有必要开。
去论坛讨论
前往 silicon-agi.com 论坛 参与讨论