分类：显存

2021
04-25

pytorch显存一直变大的解决方案

在代码中添加以下两行可以解决：torch.backends.cudnn.enabled=Truetorch.backends.cudnn.benchmark=True补充：pytorch训练过程显存一直增加的问题之前遇到了爆显存的问题，卡了很久，试了很多方法，总算解决了。总结下自己试过的几种方法：**1.使用torch.cuda.empty_cache()在每一个训练epoch后都添加这一行代码，可以让训练从较低显存的地方开始，但并不适用爆显存的问题，随着epoch的增加，最大显存占用仍然会提示outofm... 继续阅读 >

2020
12-10

弄清Pytorch显存的分配机制

对于显存不充足的炼丹研究者来说，弄清楚Pytorch显存的分配机制是很有必要的。下面直接通过实验来推出Pytorch显存的分配过程。实验实验代码如下：importtorchfromtorchimportcudax=torch.zeros([3,1024,1024,256],requires_grad=True,device='cuda')print("1",cuda.memory_allocated()/1024**2)y=5*xprint("2",cuda.memory_allocated()/1024**2)torch.mean(y).backward()print("3",cuda.memory_allo... 继续阅读 >

2020
10-08

浅谈多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置

服务器有多张显卡，一般是组里共用，分配好显卡和任务就体现公德了。除了在代码中指定使用的GPU编号，还可以直接设置可见GPU编号，使程序/用户只对部分GPU可见。操作很简单，使用环境变量CUDA_VISIBLE_DEVICES即可。具体来说，如果使用单卡运行Python脚本，则可输入CUDA_VISIBLE_DEVICES=1pythonmy_script.py脚本将只使用GPU1。在.py脚本和Notebook中设置，则importosos.environ["CUDA_VISIBLE_DEVICES"]="2"... 继续阅读 >

2020
10-08

Tensorflow与Keras自适应使用显存方式

Tensorflow支持基于cuda内核与cudnn的GPU加速，Keras出现较晚，为Tensorflow的高层框架，由于Keras使用的方便性与很好的延展性，之后更是作为Tensorflow的官方指定第三方支持开源框架。但两者在使用GPU时都有一个特点，就是默认为全占满模式。在训练的情况下，特别是分步训练时会导致显存溢出，导致程序崩溃。可以使用自适应配置来调整显存的使用情况。一、Tensorflow1、指定显卡代码中加入importosos.environ["CUDA_VISIBLE_DEVI... 继续阅读 >