一句话:API 网关是「大模型的水表 + 交换机」——多家服务商进,一个统一出口出,谁用多少按令牌记账。
它管什么
调过 5 家以上 API 的人都懂这种痛:每个服务商一个 Key、一个 SDK、一套账单;想给同事用又不敢把主 Key 交出去。网关把这几件事一次理顺:
- 聚合:DeepSeek、GLM、Kimi、Qwen、OpenAI 兼容的任何家,配成「渠道」;
- 统一出口:对上只暴露一个 OpenAI 格式地址,切服务商不改代码;
- 令牌:给每人/每项目发独立 Key,限额度、限模型、随时吊销;
- 记账:每个令牌的用量、消费统计,团队分摊一目了然。
选型:one-api vs new-api
| 维度 | one-api | new-api |
|---|---|---|
| 关系 | 原版 | 活跃 fork |
| 界面 | 朴素够用 | 现代化,数据看板全 |
| 新格式跟进 | 慢 | 快(多模态、实时类接口先上) |
| 渠道类型 | 主流齐全 | 更全,含更多国产与聚合渠道 |
| 适合 | 极简自用、求稳 | 团队、追新模型 |
两家部署与配置逻辑几乎一致(都是 Go 单二进制 + SQLite/MySQL),会一个就会另一个,迁移成本接近零。结论:2026 年新建站直接 new-api,存量 one-api 没痛点不必动。
部署十分钟
docker run -d -p 3000:3000 \
-v /opt/new-api/data:/data \
-e TZ=Asia/Shanghai \
--name new-api --restart always \
calciumion/new-api:latest
浏览器开 http://IP:3000(默认账号 root/123456,登录后立刻改)。然后:
- 渠道 → 添加:填服务商的 Base URL 与 Key,模型列表勾上;
- 令牌 → 新建:设额度与可用模型,把生成的
sk-xxx当普通 API Key 分发; - 应用端把 base_url 指到网关,一行代码都不用多改。
进阶玩法:本地渠道混排
把内网的 vLLM 端点配成渠道,网关就同时管着「云端的贵模型」和「本地 5060 Ti 上的 14B」:
- 日常问答、翻译 → 路由本地渠道(边际成本为零);
- 深度推理、长文 → 路由云端(按量付费);
- 本地机器挂了 → 网关自动切云端,服务不断。
这套「本地优先、云端兜底」的账怎么算划算,展开见云 AI 成本优化与个人开发者 API 怎么选。
安全清单
- 别裸暴露公网:套反向代理加 HTTPS,或只走内网/VPN;
- 改默认密码,管理端开二次验证;
- 令牌默认限额,别发无限额度的 Key——网关的意义就是隔离爆炸半径;
- 定期看日志里的异常调用,网关是审计入口,不是匿名通道。
常见问题
我需要 API 网关吗?
只自己用一个 Key、一个服务商:不需要。出现以下任一情况就该上:①多家 API 想统一入口;②给团队/朋友分发额度;③本地模型和云端模型想一个地址混着调;④统计每个项目/每人花了多少钱。
one-api 和 new-api 选哪个?
new-api 是 one-api 的活跃分支:界面更现代、跟进新模型格式更快(如实时接口、多模态),社区迭代勤;one-api 原版更保守稳定。个人自用任选,团队使用建议 new-api——功能和文档更新都更跟得上 2026 年的模型生态。
能把本地 Ollama/vLLM 也挂进去吗?
能,这是网关的隐藏玩法:把 vLLM 的 OpenAI 兼容端点配成一个「渠道」,和云端模型并列。应用里一个地址,便宜任务路由本地、重活路由云端——本地算力的闲置时间就盘活了。
部署在什么机器上?
网关本体极轻(1 核 1G 的 VPS、NAS、甚至树莓派都行),它只转发请求不跑模型。注意:数据库记得挂卷,和 Open WebUI 一样,容器删了卷在数据就在。