pytorch掉坑记录:model.eval的作用说明
训练完train_datasets之后,model要来测试样本了。在model(test_datasets)之前,需要加上model.eval().否则的话,有输入数据,即使不训练,它也会改变权值。
这是model中含有batchnormalization层所带来的的性质。
在做oneclassification的时候,训练集和测试集的样本分布是不一样的,尤其需要注意这一点。
补充知识:pytorch测试的时候为何要加上model.eval()
Doneedtousemodel.eval()whenItest?
Sure,Dropoutworksasaregularizationforpreventingoverfittingduringtraining.
ItrandomlyzerostheelementsofinputsinDropoutlayeronforwardcall.
Itshouldbedisabledduringtestingsinceyoumaywanttousefullmodel(noelementismasked)
使用PyTorch进行训练和测试时一定注意要把实例化的model指定train/eval,eval()时,框架会自动把BN和DropOut固定住,不会取平均,而是用训练好的值,不然的话,一旦test的batch_size过小,很容易就会被BN层导致生成图片颜色失真极大!!!!!!
以上这篇pytorch掉坑记录:model.eval的作用说明就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持毛票票。