Cherry Studio 怎么用?连接 Ollama、搭知识库的桌面 AI 助手入门

短答案

开源桌面客户端,装完三步:①设置里加 Ollama 地址;②选模型开聊;③文档拖进知识库。显存账和裸跑 Ollama 一致,知识库的嵌入模型另占 1-2G。

一句话:模型是发动机,Cherry Studio 是方向盘——Ollama 跑在后台,它负责聊天界面、知识库、多服务商切换这些「人机工程」。

它解决什么问题

裸用 Ollama 是终端里一行行敲;接云端 API 要在每个服务商官网页面来回切换。Cherry Studio 把这两件事合成一个桌面应用:

  • 本地 + 云端一个界面:本地 Ollama、vLLM 服务、DeepSeek/GLM 等云端 API,统一成「模型列表」随手切换;
  • 知识库(RAG):文档拖进去,对话时引用检索——个人笔记、项目文档的问答入口;
  • 多模型对拍:同一个问题同时发给几个模型,横向比输出。

开源(已捐给 Linux 基金会旗下)、Windows / macOS / Linux 全平台。

三步跑通

  1. 装 Ollama并跑起模型(没装过看新手入门);
  2. Cherry Studio 设置 → 模型服务 → 找到 Ollama,地址填 http://localhost:11434/v1,点刷新,模型列表自动出现;
  3. 新建对话选模型开聊;想省钱,云端再挂一个 GLM-5-Flash 免费档(免费 API 清单),断网/隐私内容走本地,长文写作走云端大参数。

知识库的显存账

知识库检索 = 嵌入模型把文档切块向量化 + 对话模型读检索结果。硬件上:

部件需求说明
嵌入模型显存 1-2Gbge-m3 级别即可,CPU 跑也不慢
对话模型按模型档位14B Q4 约 10G、32B Q4 约 20G,见模型库
内存32G 舒适文档向量索引常驻内存,大头
硬盘文档量 ×3原文 + 切块 + 向量库

配置结论:知识库场景和普通本地大模型几乎同配——12G 卡(14B 模型 + 嵌入)即可起步,想本地 32B 模型跑知识库,24G 卡见本地大模型场景页。整套「个人知识库」从硬件到软件的路线,展开在RAG 场景指南。

常见坑

  • 连不上 Ollama:九成是地址少了 /v1 或 Ollama 没在跑;升级两边到新版;
  • 知识库回答「不知道」:嵌入模型选太弱、或文档切块太大——换 bge-m3、调小分块;
  • 内存吃紧:向量库大了会占几十 G 内存,文档量过万页考虑独立 RAG 方案(RAG 场景指南)。

下一步:想让手机、平板、同事都用到这套本地模型?那是服务端思路 → Open WebUI 部署;想聚合多家 API 统一管理 → 自建 API 中转。

常见问题

Cherry Studio 收费吗?模型从哪来?
客户端本身开源免费。对话能力来自你接入的模型:本地走 Ollama(零成本、数据不出门),云端填各家 API Key(DeepSeek/GLM 免费档都行)。它只是「壳」,不自带模型。
连不上 Ollama 怎么排查?
①确认 Ollama 在跑(浏览器开 localhost:11434 有提示);②地址填 http://localhost:11434/v1(注意带 /v1);③Ollama 版本过旧则升级——老版本没有 OpenAI 兼容端点。
知识库(RAG)对硬件有要求吗?
嵌入模型很轻(bge-m3 级别约 1-2G 显存),对显卡几乎无要求。真正吃显存的是对话模型本身——知识库检索完,还是把上下文喂给大模型,显存账按模型算。
和 LM Studio、Open WebUI 什么关系?
三者都是「模型的壳」:Cherry Studio 是装在你电脑上的桌面 App,本地云端混着接;LM Studio 偏纯本地 + 图形化管理模型;Open WebUI 是浏览器访问、适合多人共享的服务。可以混用,都讲 OpenAI 方言。
↑