LLM 选型终极指南：闭源 vs 开源怎么选？

综合评分 = 推理能力(25%) + 编程能力(20%) + 中文能力(15%)
         + 上下文长度(10%) + 成本(15%) + 生态(15%)

推荐: GPT-5
理由: 推理最强 + 工具调用最稳定 + 生态最完善
预算: $5/$15 per M tokens

备选: DeepSeek V3（自部署）
理由: 编程能力接近 + 完全免费
适合: 预算敏感团队

推荐: Qwen3-235B
理由: 中文能力最强 + 开源可定制
特别适合: 中文NLP、内容生成、客服系统

备选: DeepSeek V3
理由: 中文能力接近 + 推理更强

推荐: GPT-5 / DeepSeek V3
GPT-5: 代码生成 + 调试 + 重构 全能
DeepSeek V3: 代码能力接近 GPT-5，且可自部署

不推荐: Llama 4（编程能力偏弱）

推荐: GPT-5 / Gemini 2.5 Ultra
理由: 2M 上下文窗口，可处理整本书

Qwen3-235B 也可选（128K 够用于大部分场景）
Claude 4 Opus 500K 中等

推荐: Qwen3-235B / DeepSeek V3（本地部署）
理由: 数据不出服务器

闭源模型不适合: 医疗、金融、军工等数据敏感领域

推荐: DeepSeek V3 API（$0.27/$1.1 per M tokens）
理由: 目前最便宜的旗舰级 API

对比: GPT-5 的 1/18 价格，能力差 5%

Phase 1: 用 GPT-5 API 验证想法（1-2 周）
Phase 2: 用 Qwen3-72B 本地部署测试（1 周）
Phase 3: 用 Qwen3-235B 集群生产部署（2-4 周）

class ModelRouter:
    def route(self, query: str) -> str:
        if self._is_simple(query):
            return "qwen3-7b"       # 简单问题用小模型
        elif self._is_coding(query):
            return "deepseek-v3"    # 编程用 DeepSeek
        else:
            return "gpt-5"          # 复杂推理用 GPT-5

    def _is_simple(self, query):
        return len(query) < 50 and not query.contains(代码)

from hashlib import md5

cache = Redis()

def cached_llm_call(prompt: str):
    key = md5(prompt.encode()).hexdigest()
    if cached := cache.get(key):
        return cached
    result = llm.generate(prompt)
    cache.set(key, result, ttl=3600)
    return result

# 合并多个请求为一次调用
batch_prompt = f"""
请逐一回答以下问题:
1. {question_1}
2. {question_2}
3. {question_3}
"""