Tensor 核心

硬件百科 · GPU 术语

一句话

专做矩阵乘法的 AI 加速单元:Turing 起搭载,是消费级 AI「能用」的分水岭。

Tensor 核心是 GPU 里专门做低精度矩阵乘法的单元,GTX 系(无)与 RTX 系(有)跑 AI 的本质差距。FP16/FP8/FP4 精度的加速都发生在 Tensor 核心上,同代卡 Tensor 数量与 AI 吞吐近似线性。

延伸阅读

↑