Flash Attention 重排注意力计算,显存占用与上下文长度解耦(线性增长)。SDXL/Flux/LLM 训练推理的标配依赖;N 卡开箱即用,A 卡需 ROCm 对应版本——A 卡报错清单的常客。
Flash Attention
硬件百科 · AI 术语
一句话
注意力计算的显存优化算法:长上下文省显存提速度;ROCm 侧版本适配是 A 卡主要报错源。
硬件百科 · AI 术语
注意力计算的显存优化算法:长上下文省显存提速度;ROCm 侧版本适配是 A 卡主要报错源。
Flash Attention 重排注意力计算,显存占用与上下文长度解耦(线性增长)。SDXL/Flux/LLM 训练推理的标配依赖;N 卡开箱即用,A 卡需 ROCm 对应版本——A 卡报错清单的常客。