上下文长度硬件百科 · AI 术语一句话模型一次能「记住」多少 token:长上下文的显存代价是非线性的——32K 起对显存翻倍要求。上下文是模型的工作记忆(单位 K token)。KV 缓存随上下文线性增长,32K 以上对显存要求翻倍;长文档分析、Agent 多轮对话是主要吃上下文的场景。延伸阅读本地大模型场景模型库