本地模型

团队里用 AI 的常见乱象：有人用 ChatGPT、有人用 Claude、有人在本地 ollama 里跑模型，聊天记录散落各处，合规审计无从谈起。解决办法不是再装一个工具，而是给团队一个统一的私有聊天入口。Open WebUI 就是干这个的：一个网页界面，背后可以同时挂本地 llama.cpp／ollama 模型和云端 API，成员登录后在同一个地方选模型、聊、共享会话。 部署就一条命令 它官方支持 docker 一键起：把本地跑着 ollama 的端口映射进来，docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway ghcr.io/open-webui/open-webui:main。浏览器打开 3000 端口，第一个注册的人是管理员。 接云端模型也简单：在后台的「外部连接」里填 OpenAI 兼容的 base_url 和 key，OpenRouter、LiteLLM、DeepSeek 都能接。这样团队成员在下拉框里就能选「本地 7B」或「云端 GPT-6」，不用各自配环境。 两个团队向的功能 用户与权限：可以加成员、设只读，敏感部门的会话留在自己服务器上； 模型分组：把「对外可用」和「仅研发调试」的模型分开，避免新人误调到贵的模型。 判断 当 AI 从「个人尝鲜」变成「团队生产力」，入口统一本身就是效率。本地模型处理敏感数据、云端模型处理复杂任务，用同一个界面切换，既省了重复订阅费，也让数据 finally 留在自己机器上。微软卖 2599 美元的 AI 笔记本讲的是单机算力，而 Open WebUI 解决的是「算力怎么变成团队入口」这另一半问题。 补一个部署细节：Open WebUI 自带用户体系，建议关闭「开放注册」，改成管理员邀请制。否则内网地址一旦被扫到，陌生人也能注册并用到你配好的云端模型——那就是真金白银的损失。另外，给敏感模型组单独设访问权限，把「内部调试用的本地大模型」和「全员可用的轻量模型」分开。 本地模型处理敏感数据、云端模型处理复杂任务，在同一个界面里切换，入口统一了，效率和合规才同时成立，成员也不用再各自养一套订阅，账单自然也省下来了。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：OpenWebUI

LM Studio 2026：从工具到平台 LM Studio 在 2026 年完成了一次重要蜕变：从一个"本地运行 LLM 的桌面工具"进化为"桌面级 AI 开发平台"。对于不想折腾命令行的用户来说，LM Studio 提供了最友好的本地大模型体验——图形界面管理模型、对话测试、API 服务、RAG 构建，一切都在一个应用中完成。 2026 核心功能 功能总览 LM Studio 2026 ├── 模型管理 │ ├── 模型搜索与浏览（HuggingFace 集成） │ ├── 一键下载与安装 │ ├── 模型版本管理 │ └── 自定义模型导入 ├── 对话界面 │ ├── 多模型并行对话 │ ├── 对比测试模式 │ ├── 参数可视化调节 │ └── 对话历史管理 ├── 开发工具 │ ├── OpenAI 兼容 API 服务器 │ ├── RAG 工作台 │ ├── Prompt 实验室 │ └── 函数调用测试器 ├── 部署工具 │ ├── 本地服务部署 │ ├── Docker 容器导出 │ └── 配置文件导出 └── 社区功能 ├── 模型评分与评价 ├── Prompt 分享 └── 配置模板 与 2024 版本对比 特性 LM Studio 0.2 (2024) LM Studio 0.4 (2026) 多模型对话 不支持 并行对比 4 个模型 API 服务 OpenAI 兼容 OpenAI + Anthropic + 嵌入 RAG 不支持 内置 RAG 工作台 函数调用 不支持 原生支持 多模态 不支持 图像理解 模型格式 GGUF GGUF + Safetensors + MLX 平台 Win/Mac/Linux Win/Mac/Linux + CLI 推理引擎 llama.cpp llama.cpp + MLX + vLLM 核心功能深度评测 1. 模型管理 LM Studio 的模型管理是同类工具中体验最好的： ...