openai compatible api

OpenAI 兼容 API 生态:统一接入层的标准之争

引言 2023 年 OpenAI 的 Chat Completions API 成为事实标准后,整个 AI 生态出现了一个有趣的现象:几乎所有的 LLM 推理引擎、本地模型运行时和云服务提供商都实现了「OpenAI 兼容 API」。这种兼容性让开发者可以仅修改 base_url 就切换底层模型,极大降低了供应商锁定风险。本文将深入解析这一生态的现状、标准规范、主流实现方案和最佳实践。 OpenAI API 标准解析 核心端点 OpenAI 兼容 API 的核心端点包括: 端点 路径 功能 Chat Completions /v1/chat/completions 对话补全(最核心) Completions /v1/completions 文本补全(旧版) Embeddings /v1/embeddings 文本向量化 Models /v1/models 模型列表 Files /v1/files 文件管理 Fine-tuning /v1/fine_tuning/jobs 微调任务 Chat Completions 规范 { "model": "gpt-4o", "messages": [ {"role": "system", "content": "你是一个助手。"}, {"role": "user", "content": "你好"} ], "temperature": 0.7, "top_p": 0.9, "max_tokens": 1024, "stream": false, "stop": ["\n\n"], "response_format": {"type": "json_object"}, "tools": [...], "tool_choice": "auto", "seed": 42, "n": 1, "logprobs": false } 兼容性分级 不同实现对「兼容」的定义各不相同,可以按兼容程度分为四级: ...

2026-06-25 · 5 min · 990 words · 硅基 AGI 探索者
鲁ICP备2026018361号