python使用pandas实现数据分割实例代码
本文研究的主要是Python编程通过pandas将数据分割成时间跨度相等的数据块的相关内容,具体如下。
先上数据,有如下dataframe格式的数据,列名分别为date、ip,我需要统计每5s内出现的ip,以及这些ip出现的频数。
ipdate 0127.0.0.2115/Jul/2017:18:22:16 1127.0.0.1315/Jul/2017:18:22:16 2127.0.0.1115/Jul/2017:18:22:17 3127.0.0.1115/Jul/2017:18:22:20 4127.0.0.2115/Jul/2017:18:22:21 5127.0.0.1315/Jul/2017:18:22:22 6127.0.0.1415/Jul/2017:18:26:36 7127.0.0.1615/Jul/2017:18:32:15 8127.0.0.1115/Jul/2017:18:36:03
在网上找了很久但是没看到python的相关答案,但在stackoverflow找到了R语言的解法,有兴趣可以看看。
受它的启发,我用不太优雅的方式实现了我的需求,有更好解决方法的请不吝赐教:
#date_ip为我的dataframe数据 date_ip['date']=pd.to_datetime(date_ip['date'],format='%d/%b/%Y:%H:%M:%S')
frequency=5 time_range=pd.date_range(date_ip['date'][0], date_ip['date'][date_ip.shape[0]-1] +frequency*Second(),freq='%sS'%frequency)
date_ip=date_ip.set_index('date')
step4:对每个时间段内的数据进行频数计算(由于通过标签切片时会包含头、尾数据,为避免重复计算,因此在尾部减1s)
foriinxrange(0,len(time_range)-1): printget_frequency(date_ip.loc[time_range[i]:time_range[i+1]-1*Second()])
importpandasaspd frompandas.tseries.offsetsimportSecond defget_frequency(date_ip): ip_frequency={} foriinxrange(0,date_ip.shape[0]): ip_frequency[date_ip['ip'][i]]=ip_frequency.get(date_ip['ip'][i],0)+1 returnip_frequency,date_ip.shape[0] if__name__=='__main__': date_ip['date']=pd.to_datetime(date_ip['date'],format='%d/%b/%Y:%H:%M:%S') frequency=5 time_range=pd.date_range(date_ip['date'][0],date_ip['date'][date_ip.shape[0]-1] +frequency*Second(),freq='%sS'%frequency) date_ip=date_ip.set_index('date') foriinxrange(0,len(time_range)-1): printget_frequency(date_ip.loc[time_range[i]:time_range[i+1]-1*Second()])
文章开头数据运行结果:
({'127.0.0.21':1,'127.0.0.13':1,'127.0.0.11':2},4) ({'127.0.0.21':1,'127.0.0.13':1},2) ({'127.0.0.14':1},1) ({'127.0.0.16':1},1) ({'127.0.0.11':1},1)
以上就是本文关于python使用pandas实现数据分割实例代码的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站其他相关专题,如有不足之处,欢迎留言指出。感谢朋友们对本站的支持!