2021
07-09
07-09
Pytorch获取无梯度TorchTensor中的值
获取无梯度Tensor遇到的问题：使用两个网络并行运算，一个网络的输出值要给另一个网络反馈。而反馈的输出值带有网络权重的梯度，即grad_fn=<XXXBackward0>.这时候如果把反馈值扔到第二网络中更新，会出现第一个计算图丢失无法更新的错误。哎哟喂，我根本不需要第一个网络的梯度好吗？一开始用了一个笨办法，先转numpy，然后再转回torch.Tensor。因为numpy数据是不带梯度的。但是我的原始tensor的放在cuda上的，cuda的张量是不能直...
继续阅读 >