pytorch 实现cross entropy损失函数计算方式
均方损失函数：
这里loss,x,y的维度是一样的，可以是向量或者矩阵，i是下标。
很多的loss函数都有size_average和reduce两个布尔类型的参数。因为一般损失函数都是直接计算batch的数据，因此返回的loss结果都是维度为(batch_size,)的向量。
(1)如果reduce=False，那么size_average参数失效，直接返回向量形式的loss
(2)如果reduce=True，那么loss返回的是标量
a)如果size_average=True，返回loss.mean(); b)如果size_average=False，返回loss.sum();
注意：默认情况下，reduce=True，size_average=True
importtorch importnumpyasnp
1、返回向量
loss_fn=torch.nn.MSELoss(reduce=False,size_average=False)
a=np.array([[1,2],[3,4]]) b=np.array([[2,3],[4,5]])
input=torch.autograd.Variable(torch.from_numpy(a)) target=torch.autograd.Variable(torch.from_numpy(b))
这里将Variable类型统一为float()（tensor类型也是调用xxx.float()）
loss=loss_fn(input.float(),target.float())
print(loss)
tensor([[1.,1.], [1.,1.]])
2、返回平均值
a=np.array([[1,2],[3,4]]) b=np.array([[2,3],[4,4]])
loss_fn=torch.nn.MSELoss(reduce=True,size_average=True)
input=torch.autograd.Variable(torch.from_numpy(a)) target=torch.autograd.Variable(torch.from_numpy(b))
loss=loss_fn(input.float(),target.float())
print(loss)
tensor(0.7500)
以上这篇pytorch实现crossentropy损失函数计算方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持毛票票。
声明：本文内容来源于网络，版权归原作者所有，内容由互联网用户自发贡献自行上传，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任。如果您发现有涉嫌版权的内容，欢迎发送邮件至：czq8825#qq.com（发邮件时，请将#更换为@）进行举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。