一句话:Open WebUI 是「本地模型的网站」——把 Ollama/vLLM 包上多用户 Web 界面,家里每台设备、实验室每个人,浏览器打开就能用。
为什么需要它
单机用模型,桌面客户端(如 Cherry Studio)就够了。但只要出现第二种访问方式——手机也要用、同事也要用、平板躺着也要用——就该上服务端架构:
浏览器(多人多设备) → Open WebUI(界面/账号/记录) → Ollama 或 vLLM(模型)
Open WebUI 管「人」,模型引擎管「算力」。这是家庭服务器和团队共享推理服务器的标准姿势,配置思路见团队共享推理服务器。
部署三步
- 后端先就位:单机自用 Ollama 即可;多人并发建议 vLLM(两者怎么选);
- Docker 起服务(Ollama 与 WebUI 同机):
docker run -d -p 8080:8080 \
-e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:main
- 浏览器开
http://localhost:8080,注册第一个账号(自动成为管理员),设置里切中文,模型下拉框选模型开聊。
接 vLLM 同理:管理设置 → 外部连接 → 加一个 OpenAI 兼容地址(如 http://内网IP:8000/v1)。任何讲 OpenAI 方言的后端都能挂进来。
多人使用的三笔账
| 账 | 怎么算 | 结论 |
|---|---|---|
| 显存(模型) | 权重一份 + KV cache 每并发 1-3G | 14B 模型 5 人同用:16G 卡偏紧,24G 稳 |
| 吞吐 | vLLM 连续批处理,8 路并发仍能喂饱 GPU | 多人场景别用 Ollama 当后端(串行排队) |
| 内存 | 向量库/对话记录随人数涨 | 32G 起步,存档型用途上 64G |
权限管理:管理员可开「新用户需审批」、按组分配模型可见性——实验室公用机器建议默认开启,防止模型被外人白嫖显存。
常见坑
- 8080 端口冲突:被别的服务占了就换映射
-p 3000:8080; - 容器里连不上 Ollama:
localhost在容器里指容器自己——同机用host.docker.internal,分机填内网 IP; - 局域网访问不了:检查防火墙放行端口;macOS 还要在 Docker 设置里开局域网访问;
- 升级:
docker pull新镜像 → 删容器重跑同一条命令,数据卷在,记录就还在。
进阶:API Key 也要多人共享、聚合多家云端模型、本地渠道混着调度 → 自建 API 中转(one-api/new-api)。
常见问题
部署要什么硬件?
Open WebUI 本体是轻量 Web 服务,2 核 CPU + 2G 内存就能跑。真正吃资源的是后端模型:单模型 24G 卡起步;多人同时用,按并发路数加 KV cache 显存(每路 1-3G,与上下文长度成正比)。
和 Cherry Studio 怎么选?
自用一台电脑:Cherry Studio(桌面 App,装完就用)。多人(家人/实验室/小团队)从浏览器访问:Open WebUI——它就是干这个的,自带用户注册、权限、对话记录管理。
升级会丢数据吗?
不会,前提是 Docker 挂载了数据卷(-v open-webui:/app/backend/data)。对话记录、用户、知识库都在卷里;忘了挂载,容器一删全没。
手机能用吗?
能。同一局域网下浏览器访问 http://主机IP:8080,移动端界面自适应;出门在外要走内网穿透或 VPN,不建议裸暴露公网。