浅谈python多线程和队列管理shell程序
首先来描述下环境,在机器上有很多个JAVA程序,我们在每个JAVA程序里都配置了一个启动|停止|重启的脚本
举个例子:
我们现在要同时运行这些脚本,来达到快速启动所有的JAVA程序,如果我们只用多线程的话,线程是不会返回消息给父进程,我们如何才能知道这些程序是启动成功了呢?
所以我们用到了队列来管理。
"""我试过gevent,但是会在command这里造成阻塞"""
gevent代码如下 如果有朋友知道如何优化,请您告诉我
#!/usr/bin/python2.7 #-*-coding:utf-8-*- importos,sys fromdatetimeimportdatetime importcommands importgevent.monkey gevent.monkey.patch_os() importgevent defServers(): servers=commands.getoutput('''ls/data/program/payment/|grep'payment'''') servers=servers.split('\n') returnservers defhandle(servername): ifsys.argv[1]=='start'orsys.argv[1]=='stop'orsys.argv[1]=='restart': print'\033[1;31;40m' print'========================>>>gotohandle%s<<<========================='%servername print'\033[0m' r=commands.getoutput('''su-tomcat-c"/data/program/payment/%s/bin/server.sh%s&"'''%(servername,sys.argv[1]))#在这里会阻塞,我们无法找到合适的地方进行协程的切换 gevent.sleep(0)#无论放到何处,不是之前就是切换之后都会阻塞。 printr else: print'PleaseUsestart|stop|restartToHandleTheCommand' sys.exit(1) if__name__=='__main__': s=Servers() threads=[] foriins: threads.append(gevent.spawn(handle,i)) #printthreads gevent.joinall(threads)
多线程代码如下
#!/usr/bin/python2.7 #-*-coding:utf-8-*- fromdatetimeimportdatetime importcommands fromQueueimportQueue fromthreadingimportThread _sentinel=object() defServers(): servers=commands.getoutput('''ls/data/program/payment/|grep'payment'''') servers=servers.split('\n') returnservers defproducer(servername,out_q): ifsys.argv[1]=='start'orsys.argv[1]=='stop'orsys.argv[1]=='restart': print'\033[1;31;40m' print'========================>>>put%sinQueue<<<========================='%servername print'\033[0m' out_q.put_nowait(commands.getoutput('''su-tomcat-c"/data/program/payment/%s/bin/server.sh%s&"'''%(servername,sys.argv[1])))#放入队列的对象 else: print'PleaseUsestart|stop|restartToHandleTheCommand' sys.exit(1) defconsumer(servername,in_q): n=len(servername) whilen>0:#循环在队列中取结果,直到循环结束 data=in_q.get() n-=1 print'\033[1;31;40m' printdata print'\033[0m' print'\033[1;31;40m' print'consumerwasdone!!!!!!!' print'\033[0m' if__name__=='__main__': s=Servers() q=Queue() t1=Thread(target=consumer,args=(s,q,))#消费者在队列中获取结果,前面的函数内部已经循环获取 foriins: t2=Thread(target=producer,args=(i,q,))#讲线程进行管理,放入队列 t2.start()#启动生产者线程 #t2.join()#启动生产者以后放弃校验线程是否结束,进行并发,因为我们是把线程放入队列进行管理的,所以不用在这里等待线程结束,如果使用了join这里会阻塞我们的程序。线程结束后,消费者会通知父进程线程已经结束。 t1.start()#启动消费者线程 t1.join()#在获取完成之前进行线程的阻塞
简单的说下join这个方法:
调用Thread.join将会使主调线程堵塞,直到被调用线程运行结束或超时。参数timeout是一个数值类型,表示超时时间,如果未提供该参数,那么主调线程将一直堵塞到被调线程结束。
以上所述就是本文的全部内容了,希望大家能够喜欢。