首页 > 编程语言 > pytorch tensor int型除法出现的问题
2021
04-25

pytorch tensor int型除法出现的问题

昨天晚上跑起来一个classification实验,今天发现训练loss在降,然而accuracy永远是0 。。。直觉告诉我evaluation有问题

然后发现自己写了个很愚蠢的bug

accuracy对应的tensor出来是int型的,我用到了一个除法取平均。而pytorch里无论用 / or // 结果都是取整,,accuracy一直就没有。。

所以转换成float就没问题了,,低级bug,下不为例

补充:pytorch tensor division/除法

除法的时候要注意数据类型的问题

a = torch.div(torch.tensor([160, 110]), 0.137)

jupyter notebook就会奔溃, 因为torch.tensor([160, 110])是torch.int64数据类型, 而0.137(或者说torch.tensor(0.137))是torch.float32类型.

如果改成下面这样, 就会顺利运行

a = torch.div(torch.tensor([160, 110]).float(), 0.137)

以上为个人经验,希望能给大家一个参考,也希望大家多多支持自学编程网。如有错误或未考虑完全的地方,望不吝赐教。

编程技巧