私有部署

团队里用 AI 的常见乱象：有人用 ChatGPT、有人用 Claude、有人在本地 ollama 里跑模型，聊天记录散落各处，合规审计无从谈起。解决办法不是再装一个工具，而是给团队一个统一的私有聊天入口。Open WebUI 就是干这个的：一个网页界面，背后可以同时挂本地 llama.cpp／ollama 模型和云端 API，成员登录后在同一个地方选模型、聊、共享会话。 部署就一条命令 它官方支持 docker 一键起：把本地跑着 ollama 的端口映射进来，docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway ghcr.io/open-webui/open-webui:main。浏览器打开 3000 端口，第一个注册的人是管理员。 接云端模型也简单：在后台的「外部连接」里填 OpenAI 兼容的 base_url 和 key，OpenRouter、LiteLLM、DeepSeek 都能接。这样团队成员在下拉框里就能选「本地 7B」或「云端 GPT-6」，不用各自配环境。 两个团队向的功能 用户与权限：可以加成员、设只读，敏感部门的会话留在自己服务器上； 模型分组：把「对外可用」和「仅研发调试」的模型分开，避免新人误调到贵的模型。 判断 当 AI 从「个人尝鲜」变成「团队生产力」，入口统一本身就是效率。本地模型处理敏感数据、云端模型处理复杂任务，用同一个界面切换，既省了重复订阅费，也让数据 finally 留在自己机器上。微软卖 2599 美元的 AI 笔记本讲的是单机算力，而 Open WebUI 解决的是「算力怎么变成团队入口」这另一半问题。 补一个部署细节：Open WebUI 自带用户体系，建议关闭「开放注册」，改成管理员邀请制。否则内网地址一旦被扫到，陌生人也能注册并用到你配好的云端模型——那就是真金白银的损失。另外，给敏感模型组单独设访问权限，把「内部调试用的本地大模型」和「全员可用的轻量模型」分开。 本地模型处理敏感数据、云端模型处理复杂任务，在同一个界面里切换，入口统一了，效率和合规才同时成立，成员也不用再各自养一套订阅，账单自然也省下来了。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：OpenWebUI

引言 Open WebUI是2026年最流行的自托管AI对话界面，提供了类似ChatGPT的体验，但完全在你的控制之下。配合Ollama等本地推理引擎，可以构建一个功能完整、数据私有的AI对话平台。本文将详细介绍Open WebUI的部署和使用。 为什么选择Open WebUI 核心优势 完全私有：数据不离开你的服务器 功能丰富：多模型支持、RAG、多用户、插件系统 界面友好：ChatGPT级别的用户体验 开源免费：无API费用 高度可定制：主题、提示、模型均可自定义 部署方案 方案一：Docker单机部署 # 最简单的部署 docker run -d -p 3000:8080 \ --add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ --name open-webui \ --restart always \ ghcr.io/open-webui/open-webui:main 方案二：Docker Compose version: '3.8' services: ollama: image: ollama/ollama:latest ports: - "11434:11434" volumes: - ollama_data:/root/.ollama deploy: resources: reservations: devices: - driver: nvidia count: all capabilities: [gpu] open-webui: image: ghcr.io/open-webui/open-webui:main ports: - "3000:8080" environment: - OLLAMA_BASE_URL=http://ollama:11434 - WEBUI_AUTH=true - ENABLE_RAG=true - ENABLE_OCR=true volumes: - webui_data:/app/backend/data depends_on: - ollama restart: always # 可选：向量数据库 chromadb: image: chromadb/chroma:latest ports: - "8000:8000" volumes: - chroma_data:/chroma/chroma volumes: ollama_data: webui_data: chroma_data: 方案三：Kubernetes部署 apiVersion: apps/v1 kind: Deployment metadata: name: open-webui spec: replicas: 1 template: spec: containers: - name: open-webui image: ghcr.io/open-webui/open-webui:main ports: - containerPort: 8080 env: - name: OLLAMA_BASE_URL value: "http://ollama-service:11434" - name: WEBUI_AUTH value: "true" resources: requests: memory: "2Gi" cpu: "1000m" --- apiVersion: v1 kind: Service metadata: name: open-webui spec: type: LoadBalancer ports: - port: 80 targetPort: 8080 核心功能配置 多模型管理 # 在WebUI中配置模型 models: - name: "GLM-5" ollama_model: "glm-5:32b" description: "中文最强模型" - name: "DeepSeek-V4" ollama_model: "deepseek-v4:671b" description: "开源代码之王" - name: "Qwen3 7B" ollama_model: "qwen3:7b" description: "轻量快速模型" RAG配置 # RAG设置 rag_config = { "embedding_model": "bge-large-zh", "chunk_size": 500, "chunk_overlap": 50, "top_k": 5, "reranker": "bge-reranker-v2", "vector_db": "chromadb" } 在WebUI中： ...