PyTorch 多GPU下模型的保存与加载(踩坑笔记)
这几天在一机多卡的环境下，用pytorch训练模型，遇到很多问题。现总结一个实用的做实验方式：
多GPU下训练，创建模型代码通常如下：
os.environ['CUDA_VISIBLE_DEVICES']=args.cuda model=MyModel(args) iftorch.cuda.is_available()andargs.use_gpu: model=torch.nn.DataParallel(model).cuda()
官方建议的模型保存方式，只保存参数：
torch.save(model.module.state_dict(),"model.pkl")
其实，这样很麻烦，我建议直接保存模型（参数+图）：
torch.save(model,"model.pkl")
这样做很实用，特别是我们需要反复建模和调试的时候。这种情况下模型的加载很方便，因为模型的图已经和参数保存在一起，我们不需要根据不同的模型设置相应的超参，更换对应的网络结构，如下：
ifnot(args.pretrained_model_pathisNone):
print('loadmodelfrom%s...'%args.pretrained_model_path)
model=torch.load(args.pretrained_model_path)
print('success!')
但是需要注意，这种方式加载的是多GPU下模型。如果服务器环境变化不大，或者和训练时候是同一个GPU环境，就不会出现问题。
如果系统环境发生了变化，或者，我们只想加载模型参数，亦或是遇到下面的问题：
AttributeError:'model'objecthasnoattribute'copy'
或者
AttributeError:'DataParallel'objecthasnoattribute'copy'
或者
RuntimeError:modulemusthaveitsparametersandbuffersondevicecuda:0(device_ids[0])butfound
这时候我们可以用下面的方式载入模型，先建立模型，然后加载参数。
os.environ['CUDA_VISIBLE_DEVICES']=args.cuda
#建立模型
model=MyModel(args)
iftorch.cuda.is_available()andargs.use_gpu:
model=torch.nn.DataParallel(model).cuda()
ifnot(args.pretrained_model_pathisNone):
print('loadmodelfrom%s...'%args.pretrained_model_path)
#获得模型参数
model_dict=torch.load(args.pretrained_model_path).module.state_dict()
#载入参数
model.module.load_state_dict(model_dict)
print('success!')
到此这篇关于PyTorch多GPU下模型的保存与加载(踩坑笔记)的文章就介绍到这了,更多相关PyTorch多GPU下模型的保存与加载内容请搜索毛票票以前的文章或继续浏览下面的相关文章希望大家以后多多支持毛票票！
声明：本文内容来源于网络，版权归原作者所有，内容由互联网用户自发贡献自行上传，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任。如果您发现有涉嫌版权的内容，欢迎发送邮件至：czq8825#qq.com（发邮件时，请将#更换为@）进行举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。