分类：梯度为none

2021
07-01

pytorch损失反向传播后梯度为none的问题

错误代码：输出grad为nonea=torch.ones((2,2),requires_grad=True).to(device)b=a.sum()b.backward()print(a.grad)由于.to(device)是一次操作，此时的a已经不是叶子节点了修改后的代码为：a=torch.ones((2,2),requires_grad=True)c=a.to(device)b=c.sum()b.backward()print(a.grad)类似错误：self.miu=torch.nn.Parameter(torch.ones(self.dimensional))*0.01应该为self.miu=torch.nn.Parameter(torch.ones(se... 继续阅读 >