AMD RDNA2 起配备的大容量末级缓存,把常用数据留在卡上以弥补 GDDR6 带宽。对游戏帧数提升显著;AI 推理的访问模式(大模型顺序读)命中低,收益有限——A 卡跑 AI 主要还是看 ROCm。
Infinity Cache
硬件百科 · GPU 术语
一句话
AMD 的显存外缓存:128-96MB 大缓存显著提升游戏命中,AI 推理收益有限。
硬件百科 · GPU 术语
AMD 的显存外缓存:128-96MB 大缓存显著提升游戏命中,AI 推理收益有限。
AMD RDNA2 起配备的大容量末级缓存,把常用数据留在卡上以弥补 GDDR6 带宽。对游戏帧数提升显著;AI 推理的访问模式(大模型顺序读)命中低,收益有限——A 卡跑 AI 主要还是看 ROCm。