语音转写是「吞吐型」负载,跑的是时间账。二手 3090(¥5.5k)的生产线配置:
实测数字:Whisper large-v3 INT8(faster-whisper),1 小时音频转写 2-3 分钟(20-30 倍实时),显存 6.5G/实例——24G 双实例并行,夜批 8 小时音频约 25 分钟跑完。
生产线三件:faster-whisper(INT8)+ 队列脚本(监控目录自动入队)+ 输出分层(SRT/纯文本/JSON 各一份)。电费:日均 6 小时满载约 ¥35/月。
为什么是二手 3090:千小时级语料生产,速度差 2.5 倍就是人力差;24G 让「并行双实例」成立。收卡走验卡三步。
常见问题
large-v3 显存占用?
FP16 约 10G,INT8 约 6G;24G 可以双实例并行跑两路。
为什么不用 4060?
速度差距 2.5 倍,千小时级语料生产里时间成本压倒电费;24G+带宽的组合更耐用。