IT之家·· 5 小时前AI 评分53
Jun Yamog测试4张Tesla V100集群:AI推理速度超过2台DGX Spark
9 年前英伟达 Tesla V100 老将再战:4 GPU 集群 AI 推理跑赢 2 台 DGX Spark
AI 导读
Jun Yamog在视频中测试了由4张Tesla V100组成、通过NVLink互联的集群。在4-bit量化Qwen3.8-Flash-Next测试中,长提示处理速度比2台DGX Spark快40%,短提示Token生成速度为100.6 tok/s,比2台DGX Spark快121%。
来源:IT之家 · ithome.com