pytorch cuda上tensor的定义 以及减少cpu的操作详解
cuda上tensor的定义
a=torch.ones(1000,1000,3).cuda()
某一gpu上定义
cuda1=torch.device('cuda:1')
b=torch.randn((1000,1000,1000),device=cuda1)
删除某一变量
dela
在cpu定义tensor然后转到gpu
torch.zeros().cuda()
直接在gpu上定义,这样就减少了cpu的损耗
torch.cuda.FloatTensor(batch_size,self.hidden_dim,self.height,self.width).fill_(0)
补充知识:pytorchcuda.FloatTensor->FloatTensor
错误类型:
RuntimeError:Inputtype(torch.cuda.FloatTensor)andweighttype(torch.FloatTensor)
定义残差块时定义在model的外面,在使用gpu进行训练的时候,残差块的参数是torch.FloatTensor类型,
虽然使用了model.cuda(),但是只对model里面的参数在gpu部分,所以把残差块对应的操作都在model的__init__(),
重新定义,即可解决问题
以上这篇pytorchcuda上tensor的定义以及减少cpu的操作详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持毛票票。
热门推荐
3 祝福语简短的微信
10 幼儿祝福语大全简短贺卡
11 感谢教官文案祝福语简短
12 鼠年同事祝福语简短创意
13 元旦祝福语 简短独特群发
14 妈咪跟我生日祝福语简短
15 给儿子新婚祝福语简短
16 伴娘祝福语长文案简短
17 恭喜高考完祝福语简短
18 生日祝福语送老公简短