Python如何读写二进制数组数据
问题
你想读写一个二进制数组的结构化数据到Python元组中。
解决方案
可以使用struct模块处理二进制数据。下面是一段示例代码将一个Python元组列表写入一个二进制文件,并使用struct将每个元组编码为一个结构体。
fromstructimportStruct defwrite_records(records,format,f): ''' Writeasequenceoftuplestoabinaryfileofstructures. ''' record_struct=Struct(format) forrinrecords: f.write(record_struct.pack(*r)) #Example if__name__=='__main__': records=[(1,2.3,4.5), (6,7.8,9.0), (12,13.4,56.7)] withopen('data.b','wb')asf: write_records(records,'有很多种方法来读取这个文件并返回一个元组列表。首先,如果你打算以块的形式增量读取文件,你可以这样做:
fromstructimportStruct defread_records(format,f): record_struct=Struct(format) chunks=iter(lambda:f.read(record_struct.size),b'') return(record_struct.unpack(chunk)forchunkinchunks) #Example if__name__=='__main__': withopen('data.b','rb')asf: forrecinread_records('如果你想将整个文件一次性读取到一个字节字符串中,然后在分片解析。那么你可以这样做:
fromstructimportStruct defunpack_records(format,data): record_struct=Struct(format) return(record_struct.unpack_from(data,offset) foroffsetinrange(0,len(data),record_struct.size)) #Example if__name__=='__main__': withopen('data.b','rb')asf: data=f.read() forrecinunpack_records('两种情况下的结果都是一个可返回用来创建该文件的原始元组的可迭代对象。
讨论
对于需要编码和解码二进制数据的程序而言,通常会使用struct模块。为了声明一个新的结构体,只需要像这样创建一个Struct实例即可:
#Littleendian32-bitinteger,twodoubleprecisionfloats record_struct=Struct('结构体通常会使用一些结构码值i,d,f等[参考Python文档]。这些代码分别代表某个特定的二进制数据类型如32位整数,64位浮点数,32位浮点数等。第一个字符<指定了字节顺序。在这个例子中,它表示”低位在前”。更改这个字符为>表示高位在前,或者是!表示网络字节顺序。
产生的Struct实例有很多属性和方法用来操作相应类型的结构。size属性包含了结构的字节数,这在I/O操作时非常有用。pack()和unpack()方法被用来打包和解包数据。比如:
>>>fromstructimportStruct >>>record_struct=Struct('>>record_struct.size 20 >>>record_struct.pack(1,2.0,3.0) b'\x01\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00@\x00\x00\x00\x00\x00\x00\x08@' >>>record_struct.unpack(_) (1,2.0,3.0) >>> 有时候你还会看到pack()和unpack()操作以模块级别函数被调用,类似下面这样:
>>>importstruct >>>struct.pack('>>struct.unpack(' >> 这样可以工作,但是感觉没有实例方法那么优雅,特别是在你代码中同样的结构出现在多个地方的时候。通过创建一个Struct实例,格式代码只会指定一次并且所有的操作被集中处理。这样一来代码维护就变得更加简单了(因为你只需要改变一处代码即可)。
读取二进制结构的代码要用到一些非常有趣而优美的编程技巧。在函数read_records中,iter()被用来创建一个返回固定大小数据块的迭代器。这个迭代器会不断的调用一个用户提供的可调用对象(比如lambda:f.read(record_struct.size)),直到它返回一个特殊的值(如b'‘),这时候迭代停止。例如:
>>>f=open('data.b','rb') >>>chunks=iter(lambda:f.read(20),b'') >>>chunks>>>forchkinchunks: ...print(chk) ... b'\x01\x00\x00\x00ffffff\x02@\x00\x00\x00\x00\x00\x00\x12@' b'\x06\x00\x00\x00333333\x1f@\x00\x00\x00\x00\x00\x00"@' b'\x0c\x00\x00\x00\xcd\xcc\xcc\xcc\xcc\xcc*@\x9a\x99\x99\x99\x99YL@' >>> 如你所见,创建一个可迭代对象的一个原因是它能允许使用一个生成器推导来创建记录。如果你不使用这种技术,那么代码可能会像下面这样:
defread_records(format,f): record_struct=Struct(format) whileTrue: chk=f.read(record_struct.size) ifchk==b'': break yieldrecord_struct.unpack(chk)在函数unpack_records()中使用了另外一种方法unpack_from()。unpack_from()对于从一个大型二进制数组中提取二进制数据非常有用,因为它不会产生任何的临时对象或者进行内存复制操作。你只需要给它一个字节字符串(或数组)和一个字节偏移量,它会从那个位置开始直接解包数据。
如果你使用unpack()来代替unpack_from(),你需要修改代码来构造大量的小的切片以及进行偏移量的计算。比如:
defunpack_records(format,data): record_struct=Struct(format) return(record_struct.unpack(data[offset:offset+record_struct.size]) foroffsetinrange(0,len(data),record_struct.size))这种方案除了代码看上去很复杂外,还得做很多额外的工作,因为它执行了大量的偏移量计算,复制数据以及构造小的切片对象。如果你准备从读取到的一个大型字节字符串中解包大量的结构体的话,unpack_from()会表现的更出色。
在解包的时候,collections模块中的命名元组对象或许是你想要用到的。它可以让你给返回元组设置属性名称。例如:
fromcollectionsimportnamedtuple Record=namedtuple('Record',['kind','x','y']) withopen('data.p','rb')asf: records=(Record(*r)forrinread_records('如果你的程序需要处理大量的二进制数据,你最好使用numpy模块。例如,你可以将一个二进制数据读取到一个结构化数组中而不是一个元组列表中。就像下面这样:
>>>importnumpyasnp >>>f=open('data.b','rb') >>>records=np.fromfile(f,dtype='>>records array([(1,2.3,4.5),(6,7.8,9.0),(12,13.4,56.7)], dtype=[('f0','>>records[0] (1,2.3,4.5) >>>records[1] (6,7.8,9.0) >>> 最后提一点,如果你需要从已知的文件格式(如图片格式,图形文件,HDF5等)中读取二进制数据时,先检查看看Python是不是已经提供了现存的模块。因为不到万不得已没有必要去重复造轮子。
以上就是Python如何读写二进制数组数据的详细内容,更多关于Python读写二进制数组数据的资料请关注毛票票其它相关文章!