Python的進程間通信詳解
進程概述
進程(Process)是計算機中已運行程序的實體。進程與程序不同,程序本身隻是指令、數據及器組織形式的描述,進程才是程序(那些指令和數據)的真正運行實體。例如在沒有打開QQ時,QQ隻是程序。打開以後,操作系統為QQ開啟一個進程。再打開一個QQ,則又開啟一個進程。
那麼在多進程中,每個進程之間是什麼關系呢?其實每個進程都有自己的地址空間、內存、數據棧以及其他記錄其運行狀態的輔助數據。下通過一個例子驗證一下進程間是否能直接共享信息。示例代碼如下:
from multiprocessing import Process def plus(): print('-------子進程1開始------') global g_num g_num += 50 print('g_num is %d'%g_num) print('-------子進程1結束------') def minus(): print('-------子進程2開始------') global g_num g_num -= 50 print('g_num is %d'%g_num) print('-------子進程2結束------') g_num = 100 # 定義一個全局變量 if __name__ == '__main__': print('-------主進程開始------') print('g_num is %d'%g_num) p1 = Process(target=plus) # 實例化進程p1 p2 = Process(target=minus) # 實例化進程p2 p1.start() # 開啟進程p1 p2.start() # 開啟進程p2 p1.join() # 等待p1進程結束 p2.join() # 等待p2進程結束 print('-------主進程結束------')
示例代碼中定義一個全局變量g_num,分別創建2個子進程對g_num變量執行不同的操作,並輸出操作後的結果。運行結果如下:
——-主進程開始——
g_num is 100
——-子進程1開始——
g_num is 150
——-子進程1結束——
——-子進程2開始——
g_num is 50
——-子進程2結束——
——-主進程結束——Process finished with exit code 0
上述代碼中,分別創建瞭2個子進程,一個子進程中令g_num變量加50,另一個子進程令g_num變量減50。但是從運行結果看,g_num變量在父進程和2個子進程中的初識值都是100,也就是說全局變量g_num在一個進程中的結果並沒有傳到下一個進程中,即進程之間並沒有共享信息。
要如何才能實現進程間的通信呢?Python的multiprocessing模塊包裝瞭底層的機制,提供瞭Queue(隊列)、Pipes(管道)等多種方式來交換數據。
隊列簡介
隊列(Queue)就是模仿現實中的排隊。舉個栗子(非網上購票方式,曾經的買電影票的方式),例如排隊買電影票,新來的人排到隊伍最後,最前面的人買完票走開,後面的人跟上。由此可見隊列的兩個特點:
§ 新來的都排在隊尾
§ 最前面的完成後離隊,後面一個跟上
多進程隊列的使用
進程間有時需要通信,操作系統提供瞭很多機制來實現進程間的通信,如可以使用multiprocessing模塊的Queue隊列實現多進程之間的數據傳遞。Queue本身是一個消息隊列程序,下面介紹一下它的使用。
初始化Queue()對象時(例如:q=Queue(num)),若括號中沒有指定最大可接收的消息數量,或數量為負值,那麼就代表可接受的消息數量沒有上限(直到內存的盡頭)。Queue常用方法如下:
§ Queue.qsize():返回當前隊列包含的消息數量
§ Queue.empty():如果隊列為空,返回True,否則返回False
§ Queue.full():如果隊列滿瞭,返回True,否則返回False
§ Queue.get([block[,timeout]]):獲取隊列中的一條消息,然後將其從隊列中移除,block默認值為True
如果block使用默認值,且沒有設置timeout(單位秒),消息隊列為空,此時程序將被阻塞(停在讀取狀態),直到從消息隊列中讀到消息為止,如果設置瞭timeou,則會等待timeout秒,若還沒有讀取到任何消息,則拋出“Queue.Empty“異常
如果block值為False,消息隊列為空,則會立刻拋出“Queue.Empty“異常
§ Queue.get_nowait():相當Queue.get(Flase)
§ Queue.put(item,[block[,timeout]]):將item消息寫入隊列,block默認值為True
如果block使用默認值,且沒有設置timeout(單位秒),當消息隊列已經沒有空間可寫入時,程序將被阻塞(停在寫入狀態),直到從消息隊列騰出空間為止,如果設置瞭timeout,則會等待timeout秒,若還沒有空間,則拋出“Queue.Full“異常
如果block值為False,當消息隊列沒有空間可寫入時,則會立刻拋出“Queue.Full“異常
Queue.put_nowait(item):相當Queue.put(item,False)
示例代碼如下:
#coding=utf-8 from multiprocessing import Queue if __name__ == '__main__': q=Queue(3) # 初始化一個Queue對象,最多可接收三條put消息 q.put("消息1") q.put("消息2") print(q.full()) # 返回False q.put("消息3") print(q.full()) # 返回True # 因為消息隊列已滿,下面的try會拋出異常, # 第一個try會等待2秒後再拋出異常,第二個try會立刻拋出異常 try: q.put("消息4",True,2) except: print("消息隊列已滿,現有消息數量:%s"%q.qsize()) try: q.put_nowait("消息4") except: print("消息隊列已滿,現有消息數量:%s"%q.qsize()) # 讀取消息時,先判斷消息隊列是否為空,為空時再讀取 if not q.empty(): print('----從隊列中獲取消息---') for i in range(q.qsize()): print(q.get_nowait()) # 先判斷消息隊列是否已滿,不為滿時再寫入 if not q.full(): q.put_nowait("消息4")
程序運行結果如下:
False
True
消息隊列已滿,現有消息數量:3
消息隊列已滿,現有消息數量:3
—-從隊列中獲取消息—
消息1
消息2
消息3
備 註
此程序隻能在Windows環境下運行成功,mac系統會報錯。不知道什麼原因?而且單獨的print(q.qsize())都報錯。
使用隊列在進程間通信
我們知道使用multiprocessing.Process可以創建多進程,使用multiprocessing.Queue可以實現隊列的操作。結合Process和Queue實現進程間的通信。示例代碼如下:
from multiprocessing import Process, Queue import time # 向隊列中寫入數據 def write_task(q): if not q.full(): for i in range(5): message = "消息" + str(i) q.put(message) print("寫入:%s"%message) # 從隊列讀取數據 def read_task(q): time.sleep(1) # 休眠1秒 while not q.empty(): print("讀取:%s" % q.get(True,2)) # 等待2秒,如果還沒讀取到任何消息, # 則拋出"Queue.Empty"異常 if __name__ == "__main__": print("-----父進程開始-----") q = Queue() # 父進程創建Queue,並傳給各個子進程 pw = Process(target=write_task, args=(q,)) # 實例化寫入隊列的子進程,並且傳遞隊列 pr = Process(target=read_task, args=(q,)) # 實例化讀取隊列的子進程,並且傳遞隊列 pw.start() # 啟動子進程 pw,寫入 pr.start() # 啟動子進程 pr,讀取 pw.join() # 等待 pw 結束 pr.join() # 等待 pr 結束 print("-----父進程結束-----")
上述代碼中創建2個子進程,一個子進程負責向隊列中寫入數據,另一個子進程負責從隊列中讀取數據。為保證能夠正確從隊列中讀取數據,設置讀取數據的進程等待時間為2秒。如果2秒後仍然無法讀取數據,則拋出異常。運行結果如下:
—–父進程開始—–
寫入:消息0
寫入:消息1
寫入:消息2
寫入:消息3
寫入:消息4
讀取:消息0
讀取:消息1
讀取:消息2
讀取:消息3
讀取:消息4
—–父進程結束—–Process finished with exit code 0
總結
到此這篇關於Python的進程間通信詳解的文章就介紹到這瞭,更多相關Python進程間通信內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet!
推薦閱讀:
- Python通過隊列實現進程間通信詳情
- Python多進程之進程同步及通信詳解
- Python多線程 Queue 模塊常見用法
- python隊列基本操作和多線程隊列
- python線程優先級隊列知識點總結