据 Simon Willison 博客,OpenAI 在最近的 DevDay 上发布了 Jev 风格的 Decisions API。跟普通聊天接口不同,Decisions API 专门处理结构化决策:给一个输入,模型返回是或否、多个选项中的一个、或者一个评分,每个选项附带概率。

Simon Willison 看到文档后,直接让 GPT-6 Astra 读了一遍 OpenAI 的新 API 文档,然后写了一个 llm-openai-decisions 插件。这个插件接入他已有的 llm-typesafe 插件体系,让终端用户可以直接用命令行调用 OpenAI 的决策端点。整个过程就是 AI 辅助写 AI 工具。

决策 API 的工程价值在于:你不需要在业务代码里写一堆解析逻辑来从自然语言输出中提取结构化结果。模型直接返回 schema 约束好的答案和置信度,下游系统拿到就能用。这比让模型输出 JSON 再做容错解析可靠得多。

Jev 风格的决策 API 代表了大模型应用化的一个重要方向:从通用聊天到专用判断。以前你想让 AI 做内容审核,得写一大堆提示词让模型输出 JSON,然后在业务代码里解析和容错。现在直接调决策接口,模型返回带概率的选项,下游系统直接用。

Simon Willison 用 GPT-6 Astra 自己读文档写插件这件事本身就很有象征意义——AI 辅助开发 AI 工具已经成为常态。这个插件从想法到发布只用了很短时间,放在以前是不可想象的。开发者的生产力正在被 AI 本身重塑。

决策 API 跟普通聊天补全有什么区别?

典型应用场景包括:内容审核判定、用户意图分类、工单优先级评分、风险评估打分。这些场景的共同点是:输出空间有限、需要置信度、下游系统要自动处理。用普通聊天接口做这些事,你得写一堆 prompt 工程和 JSON 解析。

为什么说这是 AI 工程化的新方向?

值得注意的是,Ollama 在九月底也宣布支持了 Jev 风格的决策模型——TypeSafe 的 Jev API 已经可以在本地跑。这意味着决策类工作流的本地部署路径也打通了,敏感数据不用出内网。

去论坛讨论

前往 silicon-agi.com 论坛 参与讨论