pytorch下大型数据集(大型图片)的导入方式
使用torch.utils.data.Dataset类处理图片数据时，
1.我们需要定义三个基本的函数，以下是基本流程
classour_datasets(Data.Dataset):
def__init__(self,root,is_resize=False,is_transfrom=False):
#这里只是个参考。按自己需求写。
self.root=root
self.is_resize=is_resize
self.is_transfrom=is_transfrom
self.imgs_list=...#这里建议保存的是图片的路径而不是图片的数据
self.labs_list=...
def__getitem__(self,index):
img_path,lab=self.imgs_list[index],self.labs_list[index]
#这里使用PIL库读取图片数据.
img_data=Image.open(img_path).convert('RGB')
#这里看自己需要，可以不要
ifself.is_resize:
img_data=img_data.resize((self.is_resize[0],self.is_resize[1]),Image.ANTIALIAS)
#但是数据转换建议加上，很多时候都会用到
ifself.is_transfrom:
img_data=self.is_transfrom(img_data)
returnimg_data,lab
def__len__(self):
returnlen(self.imgs_list)
这里，我将读取图片的步骤放到__getitem__，是因为这样放的话，对内存的要求会降低很多，我们只是将数据的路径导入了内存中，当需要读取这个图片数据时，再读取，这样更像是随用随取。如果将这部分放到__init__里面，会一次将图片数据都加载到内存中，如果数据量太大，会直接卡死。
2.Dataset类返回的数据类型是与你读取时的类型一致的。但是在pytorch使用时，会提示
TypeError:batchmustcontaintensors,numbers,dictsorlists;found
通常，在数据了不大时，我一般都是在读取数据后加一句，转换成numpy.array类型。
但是，在处理较大型的数据时，这样会很慢。
这时候，我建议直接使用torchvision来进行数据转换。
is_transfrom=torchvision.transforms.ToTensor()
将上例代码加入Dataset类中，这样就会快很多。
以上这篇pytorch下大型数据集(大型图片)的导入方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持毛票票。
声明：本文内容来源于网络，版权归原作者所有，内容由互联网用户自发贡献自行上传，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任。如果您发现有涉嫌版权的内容，欢迎发送邮件至：czq8825#qq.com（发邮件时，请将#更换为@）进行举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。