一句话:LM Studio 把「找模型、下模型、跑模型、调参数」全部装进一个图形界面,是不想碰终端的人的本地大模型最优解。
装完先做两件事
1. 下载走镜像。模型市场默认连 Hugging Face,国内速度看缘分:设置里配置 HF 镜像,或从镜像站手动下载 GGUF 文件放进模型目录——LM Studio 会自动扫描识别,效果一样。
2. 模型目录挪出 C 盘。设置 → Models Directory 改到空间大的盘。GGUF 的体积纪律:8B Q4 约 5G、14B Q4 约 9G、32B Q4 约 20G、70B Q4 约 42G——模型库很快比游戏库还肥。
界面里最值钱的三个设置
| 设置 | 在哪 | 怎么调 |
|---|---|---|
| GPU offload 层数 | 模型加载参数 | 显存装得下 → 全部层进 GPU;装不下 → 逐步减层,直到不爆。层数越少越慢,这是 offload 的本质 |
| 上下文长度 | 同上 | 默认别拉满:128K 上下文的 KV cache 要多吃几个 G(显存账),日常对话 8-16K 够用 |
| GPU 并行/双卡 | 引擎设置 | 两张卡跑大模型时开启,层数自动分摊 |
判断显存装不装得下的土办法:模型文件大小 + 上下文 KV cache ≈ 显存需求,留 1-2G 余量给系统。精确口径见显存估算。
按显卡选模型的速查
- 8G:Qwen3-8B / 12B 量化,全速;
- 12G:14B Q4,日常甜点;
- 16G:14B 全速,32B Q4 半 offload 慢跑;
- 24G:32B Q4 全速,本地生产力档;
- 48G(魔改 4090):70B Q4 全速,炼丹小 server。
各档对应整卡怎么买,见显卡显存分档 2026。
隐藏用法:本地 API 服务
Developer 页签 → Start Server,得到一个 OpenAI 兼容端点(http://localhost:1234/v1)。于是 LM Studio 变成全家桶后端:
- Cherry Studio接它,获得图形对话之外的模型管理;
- 浏览器翻译插件接它,划词翻译零 API 费;
- 自己的脚本/代码接它,和调云端 API 写法完全一样。
路线总结:LM Studio(自用图形化)→ Ollama(命令行与服务化)→ vLLM/SGLang(生产并发),一级一级往上换,模型文件(GGUF)在 LM Studio 和 Ollama 之间还能复用,前期下载不白费。
常见问题
下载模型特别慢怎么办?
默认从 Hugging Face 拉,国内直连慢。两个解法:①设置里配镜像站(HF 镜像域名);②从镜像站手动下 GGUF 文件,丢进模型目录,LM Studio 会识别。别挂着一个月 20G 的下载硬等。
模型为什么都下到 C 盘?怎么改?
默认存用户目录下。设置 → Models Directory 改到大盘(D:\LMStudio),已有模型先移过去再改路径,否则旧模型列表会全部失效。一个 70B Q4 就 40G+,C 盘党必改。
能跑 70B 吗?
16G 卡:能加载,但只能部分 offload(约一半层数进显存),速度 3-5 tok/s,能用不爽;24G 卡(Q4 约 42G 仍超)也要 offload 一小部分,8 tok/s 上下;真想全速 70B,双 24G 或 48G 魔改卡,见[魔改显卡指南](/guides/modded-gpu-guide/)。
LM Studio 能当 API 服务用吗?
能,Developer 标签页一键起 OpenAI 兼容服务(默认 1234 端口),Cherry Studio、沉浸式翻译、自己写的脚本都能指向它——等于一个带图形界面的迷你 Ollama。
和 Ollama 怎么选?
同一个内核(llama.cpp),性能一致,纯界面偏好:要图形界面、模型市场、参数可视化调节 → LM Studio;要命令行、后台服务、生态最大 → Ollama。两者模型库格式都是 GGUF,可共用文件。