Python探索之自定义实现线程池

2023-09-22 10:40:07 53

为什么需要线程池呢？

设想一下，如果我们使用有任务就开启一个子线程处理，处理完成后，销毁子线程或等得子线程自然死亡，那么如果我们的任务所需时间比较短，但是任务数量比较多，那么更多的时间是花在线程的创建和结束上面，效率肯定就低了。

线程池的原理：

既然是线程池（Threadpool），其实名字很形象，就是把指定数量的可用子线程放进一个"池里"，有任务时取出一个线程执行，任务执行完后，并不立即销毁线程，而是放进线程池中，等待接收下一个任务。这样内存和cpu的开销也比较小，并且我们可以控制线程的数量。

线程池的实现：

线程池有很多种实现方式，在python中，已经给我们提供了一个很好的实现方式：Queue-队列。因为python中Queue本身就是同步的，所以也就是线程安全的，所以我们可以放心的让多个线程共享一个Queue。

那么说到线程池，那么理应也得有一个任务池，任务池中存放着待执行的任务，各个线程到任务池中取任务执行，那么用Queue来实现任务池是最好不过的。

1.low版线程池

设计思路：运用队列queue

将线程类名放入队列中，执行一个就拿一个出来

importqueue
importthreading
classThreadPool(object):
def__init__(self,max_num=20):
self.queue=queue.Queue(max_num)#创建队列，最大数为20
foriinrange(max_num):
self.queue.put(threading.Thread)#将类名放入队列中
defget_thread(self):
returnself.queue.get()#从队列中取出类名
defadd_thread(self):
self.queue.put(threading.Thread)#进类名放入队列中
deffunc(arg,p):#定义一个函数
print(arg)
importtime
time.sleep(2)
p.add_thread()
pool=ThreadPool(10)#创建对象，并执行该类的构造方法，即将线程的类名放入队列中
foriinrange(30):
thread=pool.get_thread()#调用该对象的get_thread方法，取出类名
t=thread(target=func,args=(i,pool))#创建对象，执行func，参数在args中
t.start()

由于此方法要求使用者修改原函数，并在原函数里传参数，且调用方法也发生了改变，并且有空闲线程浪费资源，实际操作中并不方便，故设计了下一版线程池。

2.绝版线程池

设计思路：运用队列queue

a.队列里面放任务
b.线程一次次去取任务，线程一空闲就去取任务

importqueue
importthreading
importcontextlib
importtime
StopEvent=object()
classThreadPool(object):
def__init__(self,max_num,max_task_num=None):
ifmax_task_num:
self.q=queue.Queue(max_task_num)
else:
self.q=queue.Queue()
self.max_num=max_num
self.cancel=False
self.terminal=False
self.generate_list=[]
self.free_list=[]
defrun(self,func,args,callback=None):
"""
线程池执行一个任务
:paramfunc:任务函数
:paramargs:任务函数所需参数
:paramcallback:任务执行失败或成功后执行的回调函数，回调函数有两个参数1、任务函数执行状态；2、任务函数返回值（默认为None，即：不执行回调函数）
:return:如果线程池已经终止，则返回True否则None
"""
ifself.cancel:
return
iflen(self.free_list)==0andlen(self.generate_list)
总结
以上就是本文关于Python探索之自定义实现线程池的全部内容，希望对大家有所帮助。感兴趣的朋友可以继续参阅本站：python中模块的__all__属性详解、Python面向对象编程基础解析（二）等，如有不足之处，欢迎留言指出。感谢朋友们对本站的支持！

Python探索之自定义实现线程池

热门推荐

随机推荐