踩坑:pytorch中eval模式下结果远差于train模式介绍_model.eval()和model.train()输出差距很大 - CSDN文库

96 浏览量更新于2023-03-03 评论收藏 56KB PDF 举报

身份认证购VIP最低享 7 折!

领优惠券(最高得80元）

资源详情

资源评论

资源推荐

踩坑踩坑:pytorch中中eval模式下结果远差于模式下结果远差于train模式介绍模式介绍

主要介绍了踩坑:pytorch中eval模式下结果远差于train模式介绍，具有很好的参考价值，希望对大家有所帮助。

一起跟随小编过来看看吧

首先，eval模式和train模式得到不同的结果是正常的。我的模型中，eval模式和train模式不同之处在于Batch Normalization和

Dropout。Dropout比较简单，在train时会丢弃一部分连接，在eval时则不会。Batch Normalization，在train时不仅使用了当前

batch的均值和方差，也使用了历史batch统计上的均值和方差，并做一个加权平均（momentum参数）。在test时，由于此时

batchsize不一定一致，因此不再使用当前batch的均值和方差，仅使用历史训练时的统计值。

我出bug的现象是，train模式下可以收敛，但一旦在测试中切换到了eval模式，结果就很差。如果在测试中仍沿用train模式，

反而可以得到不错的结果。为了确保是程序bug而不是算法本身就不适合于预测，我在测试时再次使用了训练集，正常情况下

此时应发生过拟合，正确率一定会很高，然而eval模式下正确率仍然很低。参照网上的一些说法（Performance highly

degraded when eval() is activated in the test phase

），我调大了batchsize，降低了BN层的momentum，检查了是否存在不同层使用相同BN层的bug，均不见效。有一种方法说

应在BN层设置track_running_stats为False，它虽然带来了好的效果，但实际上它只不过是不用eval模式，切回train模式罢

了，所以也不对。

学习了在训练过程中，如何将BN层中统计的均值和方差输出。即在forward()中，

# bn是一个BN层，torch.nn.batch_normalization(...)

print(bn.running_mean)

print(bn.running_var)

同时学习了如何输出一个Tensor自身的均值和方差，即

# x是一个Tensor，dims是需要计算的维度

print(x.cpu().detach().numpy().mean(dims)

print(x.cpu().detach().numpy().var(dims)

观察每一层的输出结果，发现出现了很大的方差，才猛然意识到自己的输入数据没有做归一化（事后想想也确实如此，毕竟模

型和训练方法都是github上参考别人的，出错概率很小；反而是自己写的DataSet部分，其实是最容易出错的）。给模型加上

归一化后，eval和train的结果就没有问题了。

再次验证了我的观点：越是玄学的问题，越是傻逼的bug。

补充知识：补充知识：Pytorch中的中的train和和eval用法注意点用法注意点

1.介绍介绍

一般情况，model.train()是在训练的时候用到，model.eval()是在测试的时候用到

2.用法用法

如果模型中没有类似于BN这样的归一化或者Dropout，model.train()和model.eval()可以不要（建议写一下，比较安全），并

且model.train()和model.eval()得到的效果是一样

如果模型中有类似于BN这样的归一化或者Dropout，并且程序需要边训练和边测试，最好就是用model.eval()测试完之后，后

面补一个model.train()。

其中model.train()是保证BN用每一批数据的均值和方差，而model.eval()是保证BN用全部训练数据的均值和方差；而对于

Dropout，model.train()是随机取一部分网络连接来训练更新参数，而model.eval()是利用到了所有网络连接（结果是取了平

均）

以上这篇踩坑:pytorch中eval模式下结果远差于train模式介绍就是小编分享给大家的全部内容了，希望能给大家一个参考，也

希望大家多多支持我们。

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余0页未读，立即下载

评论0

weixin_38649657

粉丝: 1
资源: 933

会员权益专享

图片转文字

全年可省5，000元立即开通

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈