一句话:模型是发动机,Cherry Studio 是方向盘——Ollama 跑在后台,它负责聊天界面、知识库、多服务商切换这些「人机工程」。
它解决什么问题
裸用 Ollama 是终端里一行行敲;接云端 API 要在每个服务商官网页面来回切换。Cherry Studio 把这两件事合成一个桌面应用:
- 本地 + 云端一个界面:本地 Ollama、vLLM 服务、DeepSeek/GLM 等云端 API,统一成「模型列表」随手切换;
- 知识库(RAG):文档拖进去,对话时引用检索——个人笔记、项目文档的问答入口;
- 多模型对拍:同一个问题同时发给几个模型,横向比输出。
开源(已捐给 Linux 基金会旗下)、Windows / macOS / Linux 全平台。
三步跑通
- 装 Ollama并跑起模型(没装过看新手入门);
- Cherry Studio 设置 → 模型服务 → 找到 Ollama,地址填
http://localhost:11434/v1,点刷新,模型列表自动出现; - 新建对话选模型开聊;想省钱,云端再挂一个 GLM-5-Flash 免费档(免费 API 清单),断网/隐私内容走本地,长文写作走云端大参数。
知识库的显存账
知识库检索 = 嵌入模型把文档切块向量化 + 对话模型读检索结果。硬件上:
| 部件 | 需求 | 说明 |
|---|---|---|
| 嵌入模型 | 显存 1-2G | bge-m3 级别即可,CPU 跑也不慢 |
| 对话模型 | 按模型档位 | 14B Q4 约 10G、32B Q4 约 20G,见模型库 |
| 内存 | 32G 舒适 | 文档向量索引常驻内存,大头 |
| 硬盘 | 文档量 ×3 | 原文 + 切块 + 向量库 |
配置结论:知识库场景和普通本地大模型几乎同配——12G 卡(14B 模型 + 嵌入)即可起步,想本地 32B 模型跑知识库,24G 卡见本地大模型场景页。整套「个人知识库」从硬件到软件的路线,展开在RAG 场景指南。
常见坑
- 连不上 Ollama:九成是地址少了
/v1或 Ollama 没在跑;升级两边到新版; - 知识库回答「不知道」:嵌入模型选太弱、或文档切块太大——换 bge-m3、调小分块;
- 内存吃紧:向量库大了会占几十 G 内存,文档量过万页考虑独立 RAG 方案(RAG 场景指南)。
下一步:想让手机、平板、同事都用到这套本地模型?那是服务端思路 → Open WebUI 部署;想聚合多家 API 统一管理 → 自建 API 中转。
常见问题
Cherry Studio 收费吗?模型从哪来?
客户端本身开源免费。对话能力来自你接入的模型:本地走 Ollama(零成本、数据不出门),云端填各家 API Key(DeepSeek/GLM 免费档都行)。它只是「壳」,不自带模型。
连不上 Ollama 怎么排查?
①确认 Ollama 在跑(浏览器开 localhost:11434 有提示);②地址填 http://localhost:11434/v1(注意带 /v1);③Ollama 版本过旧则升级——老版本没有 OpenAI 兼容端点。
知识库(RAG)对硬件有要求吗?
嵌入模型很轻(bge-m3 级别约 1-2G 显存),对显卡几乎无要求。真正吃显存的是对话模型本身——知识库检索完,还是把上下文喂给大模型,显存账按模型算。
和 LM Studio、Open WebUI 什么关系?
三者都是「模型的壳」:Cherry Studio 是装在你电脑上的桌面 App,本地云端混着接;LM Studio 偏纯本地 + 图形化管理模型;Open WebUI 是浏览器访问、适合多人共享的服务。可以混用,都讲 OpenAI 方言。