选云端API

  • 快速验证想法
  • 不需要GPU
  • 频繁切换模型
  • 流量不稳定

选本地部署

  • 数据敏感
  • 高频调用(月均百万token以上)
  • 需要定制微调
  • 合规要求

混合架构

敏感数据走本地,通用问答走云端。成本最优。