把 AI 推理塞进家庭小主机:超低功耗路线实测

装机手记 · 2026-09-12

一句话

N100 小主机 + 32G 内存跑 7B Q4:4 tok/s、功耗 25W;适合 7×24 服务型负载,交互体验不行。

闲置的 N100 软路由小主机加装 32G 内存(¥649),试试 7×24 挂个小模型服务。

实测:7B Q4 全 CPU 4 tok/s,Gemma/小参数模型可用;功耗整机 25W(月电费 ¥10);跑 Web 摘要、RSS 整理、家庭 Agent 任务的「后台批处理」完全够用——任务不敏感速度,只敏感"有人在跑"。

定位想清楚:N100 路线是「服务」,不是「交互」。聊天、绘画请回显卡路线;7×24 的工具型负载(翻译、摘要、监控告警)才是它的主场。¥1000 内的整机成本,是家庭 AI 的低成本实验田。

本篇相关的落地页

↑