分类：optimizer.zero_grad

2020
10-08

PyTorch中model.zero_grad()和optimizer.zero_grad()用法

废话不多说，直接上代码吧~model.zero_grad()optimizer.zero_grad()首先，这两种方式都是把模型中参数的梯度设为0当optimizer=optim.Optimizer(net.parameters())时，二者等效，其中Optimizer可以是Adam、SGD等优化器defzero_grad(self):"""Setsgradientsofallmodelparameterstozero."""forpinself.parameters():ifp.gradisnotNone:p.grad.data.zero_()补充知识：Pytorch中的optimizer.zero_grad和loss和ne... 继续阅读 >