分类：GPU利用率低

2021
07-26

Pytorch GPU内存占用很高,但是利用率很低如何解决

1.GPU占用率，利用率输入nvidia-smi来观察显卡的GPU内存占用率（Memory-Usage），显卡的GPU利用率（GPU-util）GPU内存占用率（Memory-Usage）往往是由于模型的大小以及batchsize的大小，来影响这个指标显卡的GPU利用率（GPU-util）往往跟代码有关，有更多的io运算，cpu运算就会导致利用率变低。比如打印loss,输出图像，等等这个时候发现，有一块卡的利用率经常跳到1%，而其他三块卡经常维持在70%以上2.原因分析当没有设置好... 继续阅读 >