中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

python多線程如何實現多任務

發布時間:2022-03-29 17:24:39 來源:億速云 閱讀:314 作者:iii 欄目:移動開發

本篇內容介紹了“python多線程如何實現多任務”的有關知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領大家學習一下如何處理這些情況吧!希望大家仔細閱讀,能夠學有所成!

1 多線程實現多任務

1.1 什么是線程?

        進程是操作系統分配程序執行資源的單位,而線程是進程的一個實體,是CPU調度和分配的單位。一個進程肯定有一個主線程,我們可以在一個進程里創建多個線程來實現多任務。

1.2 一個程序實現多任務的方法

實現多任務,我們可以用幾種方法。

(1)在主進程里面開啟多個子進程,主進程和多個子進程一起處理任務。

(2)在主進程里開啟多個子線程,主線程和多個子線程一起處理任務。

(3)在主進程里開啟多個協程,多個協程一起處理任務。

        注意:因為用多個線程一起處理任務,會產生線程安全問題,所以在開發中一般使用多進程+多協程來實現多任務。

1.3 多線程的創建方式

1.3.1 創建threading.Thread對象

import threading
p1 = threading.Thread(target=[函數名],args=([要傳入函數的參數]))
p1.start()  # 啟動p1線程

        我們來模擬一下多線程實現多任務。

        假如你在用網易云音樂一邊聽歌一邊下載。網易云音樂就是一個進程。假設網易云音樂內部程序是用多線程來實現多任務的,網易云音樂開兩個子線程。一個用來緩存音樂,用于現在的播放。一個用來下載用戶要下載的音樂的。這時候的代碼框架是這樣的:

import threading
import time
 
def listen_music(name):
    while True:
        time.sleep(1)
        print(name,"正在播放音樂")
 
 
def download_music(name):
    while True:
        time.sleep(2)
        print(name,"正在下載音樂")
 
 
if __name__ == "__main__":
    p1 = threading.Thread(target=listen_music,args=("網易云音樂",))
    p2 = threading.Thread(target=download_music,args=("網易云音樂",))
    p1.start()
    p2.start()

輸出:

python多線程如何實現多任務

觀察上面的輸出代碼可以知道:

CPU是按照時間片輪詢的方式來執行子線程的。cpu內部會合理分配時間片。時間片到a程序的時候,a程序如果在休眠,就會自動切換到b程序。

嚴謹來說,CPU在某個時間點,只在執行一個任務,但是由于CPU運行速度和切換速度快,因為看起來像多個任務在一起執行而已。

1.3.2 繼承threading.Thread,并重寫run

        除了上面的方法創建線程,還有另一種方法。可以編寫一個類,繼承threaing.Thread類,然后重寫父類的run方法。

import threading
import time
 
class MyThread(threading.Thread):
    def run(self):
        for i in range(5):
            time.sleep(1)
            print(self.name,i)
 
t1 = MyThread()
t2 = MyThread()
t3 = MyThread()
t1.start()
t2.start()
t3.start()

輸出:

python多線程如何實現多任務

        運行時無序的,說明已經啟用了多任務。

下面是threading.Thread提供的線程對象方法和屬性:

  • start():創建線程后通過start啟動線程,等待CPU調度,為run函數執行做準備;

  • run():線程開始執行的入口函數,函數體中會調用用戶編寫的target函數,或者執行被重載的run函數;

  • join([timeout]):阻塞掛起調用該函數的線程,直到被調用線程執行完成或超時。通常會在主線程中調用該方法,等待其他線程執行完成。

  • name、getName()&setName():線程名稱相關的操作;

  • ident:整數類型的線程標識符,線程開始執行前(調用start之前)為None;

  • isAlive()、is_alive():start函數執行之后到run函數執行完之前都為True;

  • daemon、isDaemon()&setDaemon():守護線程相關;

1.4 線程何時開啟,何時結束

(1)子線程何時開啟,何時運行 當調用thread.start()時 開啟線程,再運行線程的代碼

(2)子線程何時結束 子線程把target指向的函數中的語句執行完畢后,或者線程中的run函數代碼執行完畢后,立即結束當前子線程

(3)查看當前線程數量 通過threading.enumerate()可枚舉當前運行的所有線程

(4)主線程何時結束 所有子線程執行完畢后,主線程才結束

示例一:

import threading
import time
  
def run():
    for i in range(5):
        time.sleep(1)
        print(i)
 
t1 = threading.Thread(target=run)
t1.start()
print("我會在哪里出現")

輸出:

python多線程如何實現多任務

        為什么主進程(主線程)的代碼會先出現呢?因為CPU采用時間片輪詢的方式,如果輪詢到子線程,發現他要休眠1s,他會先去運行主線程。所以說CPU的時間片輪詢方式可以保證CPU的最佳運行。

        那如果我想主進程輸出的那句話運行在結尾呢?該怎么辦呢?這時候就需要用到 join() 方法了。

1.5 線程的 join() 方法

import threading
import time
 
def run():
    for i in range(5):
        time.sleep(1)
        print(i)
 
t1 = threading.Thread(target=run)
t1.start()
t1.join()  
print("我會在哪里出現")

輸出:

python多線程如何實現多任務

        join() 方法可以阻塞主線程(注意只能阻塞主線程其他子線程是不能阻塞的),直到 t1 子線程執行完,再解阻塞。

1.6 多線程共享全局變量出現的問題

        我們開兩個子線程,全局變量是0,我們每個線程對他自加1,每個線程加一百萬次,這時候就會出現問題了,來,看代碼:

import threading
import time
 
num = 0
 
def work1(loop):
    global num
    for i in range(loop):
        # 等價于 num += 1
        temp = num
        num = temp + 1
    print(num)
 
 
def work2(loop):
    global num
    for i in range(loop):
        # 等價于 num += 1
        temp = num
        num = temp + 1
    print(num)
 
 
if __name__ == "__main__":
    t1 = threading.Thread(target=work1,args=(1000000,))
    t2 = threading.Thread(target=work2, args=(1000000,))
    t1.start()
    t2.start()
 
    while len(threading.enumerate()) != 1:
        time.sleep(1)
    print(num)

輸出

1459526 # 第一個子線程結束后全局變量一共加到這個數
1588806 # 第二個子線程結束后全局變量一共加到這個數
1588806 # 兩個線程都結束后,全局變量一共加到這個數

        奇怪了,我不是每個線程都自加一百萬次嗎?照理來說,應該最后的結果是200萬才對的呀。問題出在哪里呢?

        我們知道CPU是采用時間片輪詢的方式進行幾個線程的執行。

        假設我CPU先輪詢到work1(),num此時為100,在我運行到第10行時,時間結束了!此時,賦值了,但是還沒有自加!即temp=100num=100

        然后,時間片輪詢到了work2(),進行賦值自加。num=101了。

        又回到work1()的斷點處,num=temp+1,temp=100,所以num=101。

        就這樣!num少了一次自加!在次數多了之后,這樣的錯誤積累在一起,結果只得到158806!

        這就是線程安全問題

1.7 互斥鎖可以彌補部分線程安全問題。(互斥鎖和GIL鎖是不一樣的東西!)

        當多個線程幾乎同時修改某一個共享數據的時候,需要進行同步控制

        線程同步能夠保證多個線程安全訪問競爭資源,最簡單的同步機制是引入互斥鎖。

        互斥鎖為資源引入一個狀態:鎖定/非鎖定

        某個線程要更改共享數據時,先將其鎖定,此時資源的狀態為“鎖定”,其他線程不能更改;直到該線程釋放資源,將資源的狀態變成“非鎖定”,其他的線程才能再次鎖定該資源。互斥鎖保證了每次只有一個線程進行寫入操作,從而保證了多線程情況下數據的正確性。

        互斥鎖有三個常用步驟:

lock = threading.Lock()  # 取得鎖
lock.acquire()  # 上鎖
lock.release()  # 解鎖

        下面讓我們用互斥鎖來解決上面例子的線程安全問題。

import threading
import time
 
num = 0
lock = threading.Lock()  # 取得鎖
def work1(loop):
    global num
    for i in range(loop):
        # 等價于 num += 1
        lock.acquire()  # 上鎖
        temp = num
        num = temp + 1
        lock.release()  # 解鎖
    print(num)
 
 
def work2(loop):
    global num
    for i in range(loop):
        # 等價于 num += 1
        lock.acquire()  # 上鎖
        temp = num
        num = temp + 1
        lock.release()  # 解鎖
    print(num)
 
 
if __name__ == "__main__":
    t1 = threading.Thread(target=work1,args=(1000000,))
    t2 = threading.Thread(target=work2, args=(1000000,))
    t1.start()
    t2.start()
 
    while len(threading.enumerate()) != 1:
        time.sleep(1)
    print(num)

輸出:

1945267 # 第一個子線程結束后全局變量一共加到這個數
2000000 # 第二個子線程結束后全局變量一共加到這個數
2000000 # 兩個線程都結束后,全局變量一共加到這個數

1.8 線程池ThreadPoolExecutor

        從Python3.2開始,標準庫為我們提供了concurrent.futures模塊,它提供了ThreadPoolExecutorProcessPoolExecutor兩個類,實現了對threadingmultiprocessing的進一步抽象(這里主要關注線程池),不僅可以幫我們自動調度線程,還可以做到:

  • 主線程可以獲取某一個線程(或者任務的)的狀態,以及返回值。

  • 當一個線程完成的時候,主線程能夠立即知道。

  • 讓多線程和多進程的編碼接口一致。

1.8.1 創建線程池

示例:

from concurrent.futures import ThreadPoolExecutor
import time
 
# 參數times用來模擬網絡請求的時間
def get_html(times):
    time.sleep(times)
    print("get page {}s finished".format(times))
    return times
 
executor = ThreadPoolExecutor(max_workers=2)
# 通過submit函數提交執行的函數到線程池中,submit函數立即返回,不阻塞
task1 = executor.submit(get_html, (3))
task2 = executor.submit(get_html, (2))
# done方法用于判定某個任務是否完成
print("1: ", task1.done())
# cancel方法用于取消某個任務,該任務沒有放入線程池中才能取消成功
print("2: ", task2.cancel())
time.sleep(4)
print("3: ", task1.done())
# result方法可以獲取task的執行結果
print("4: ", task1.result())

輸出:

python多線程如何實現多任務

  • ThreadPoolExecutor構造實例的時候,傳入max_workers參數來設置線程池中最多能同時運行的線程數目。

  • 使用submit函數來提交線程需要執行的任務(函數名和參數)到線程池中,并返回該任務的句柄(類似于文件、畫圖),注意submit()不是阻塞的,而是立即返回。

  • 通過submit函數返回的任務句柄,能夠使用done()方法判斷該任務是否結束。上面的例子可以看出,由于任務有2s的延時,在task1提交后立刻判斷,task1還未完成,而在延時4s之后判斷,task1就完成了。

  • 使用cancel()方法可以取消提交的任務,如果任務已經在線程池中運行了,就取消不了。這個例子中,線程池的大小設置為2,任務已經在運行了,所以取消失敗。如果改變線程池的大小為1,那么先提交的是task1,task2還在排隊等候,這是時候就可以成功取消。

  • 使用result()方法可以獲取任務的返回值。查看內部代碼,發現這個方法是阻塞的。

1.8.2 as_completed

        上面雖然提供了判斷任務是否結束的方法,但是不能在主線程中一直判斷啊。有時候我們是得知某個任務結束了,就去獲取結果,而不是一直判斷每個任務有沒有結束。這是就可以使用as_completed方法一次取出所有任務的結果。

from concurrent.futures import ThreadPoolExecutor, as_completed
import time
 
# 參數times用來模擬網絡請求的時間
def get_html(times):
    time.sleep(times)
    print("get page {}s finished".format(times))
    return times
 
executor = ThreadPoolExecutor(max_workers=2)
urls = [3, 2, 4] # 并不是真的url
all_task = [executor.submit(get_html, (url)) for url in urls]
 
for future in as_completed(all_task):
    data = future.result()
    print("in main: get page {}s success".format(data))
 
# 執行結果
# get page 2s finished
# in main: get page 2s success
# get page 3s finished
# in main: get page 3s success
# get page 4s finished
# in main: get page 4s success

   as_completed()方法是一個生成器,在沒有任務完成的時候,會阻塞,在有某個任務完成的時候,會yield這個任務,就能執行for循環下面的語句,然后繼續阻塞住,循環到所有的任務結束。從結果也可以看出,先完成的任務會先通知主線程

1.8.3 map

        除了上面的as_completed方法,還可以使用executor.map方法,但是有一點不同。

from concurrent.futures import ThreadPoolExecutor
import time
 
# 參數times用來模擬網絡請求的時間
def get_html(times):
    time.sleep(times)
    print("get page {}s finished".format(times))
    return times
 
executor = ThreadPoolExecutor(max_workers=2)
urls = [3, 2, 4] # 并不是真的url
 
for data in executor.map(get_html, urls):
    print("in main: get page {}s success".format(data))
# 執行結果
# get page 2s finished
# get page 3s finished
# in main: get page 3s success
# in main: get page 2s success
# get page 4s finished
# in main: get page 4s success

        使用map方法,無需提前使用submit方法map方法python標準庫中的map含義相同,都是將序列中的每個元素都執行同一個函數。上面的代碼就是對urls的每個元素都執行get_html函數,并分配各線程池。可以看到執行結果與上面的as_completed方法的結果不同,輸出順序和urls列表的順序相同,就算2s的任務先執行完成,也會先打印出3s的任務先完成,再打印2s的任務完成。

1.8.4 wait

   wait方法可以讓主線程阻塞,直到滿足設定的要求。

from concurrent.futures import ThreadPoolExecutor, wait, ALL_COMPLETED, FIRST_COMPLETED
import time
 
# 參數times用來模擬網絡請求的時間
def get_html(times):
    time.sleep(times)
    print("get page {}s finished".format(times))
    return times
 
executor = ThreadPoolExecutor(max_workers=2)
urls = [3, 2, 4] # 并不是真的url
all_task = [executor.submit(get_html, (url)) for url in urls]
wait(all_task, return_when=ALL_COMPLETED)
print("main")
# 執行結果 
# get page 2s finished
# get page 3s finished
# get page 4s finished
# main

   wait方法接收3個參數,等待的任務序列、超時時間以及等待條件。等待條件return_when默認為ALL_COMPLETED,表明要等待所有的任務都結束。可以看到運行結果中,確實是所有任務都完成了,主線程才打印出main。等待條件還可以設置為FIRST_COMPLETED,表示第一個任務完成就停止等待。

2 多進程實行多任務

2.1 多線程的創建方式

創建進程的方式和創建線程的方式類似:

  • 實例化一個multiprocessing.Process的對象,并傳入一個初始化函數對象(initial function )作為新建進程執行入口;

  • 繼承multiprocessing.Process,并重寫run函數;

2.1.1 方式1

       在開始之前,我們要知道什么是進程。道理很簡單,你平時電腦打開QQ客戶端,就是一個進程。再打開一個QQ客戶端,又是一個進程。那么,在python中如何用一篇代碼就可以開啟幾個進程呢?通過一個簡單的例子來演示:

import multiprocessing
import time
 
 
def task1():
    while True:
        time.sleep(1)
        print("I am task1")
 
def task2():
    while True:
        time.sleep(2)
        print("I am task2")
 
 
if __name__ == "__main__":
    p1 = multiprocessing.Process(target=task1)  # multiprocessing.Process創建了子進程對象p1
    p2 = multiprocessing.Process(target=task2)  # multiprocessing.Process創建了子進程對象p2
    p1.start()  # 子進程p1啟動
    p2.start()  # 子進程p2啟動
    print("I am main task")  # 這是主進程的任務

輸出:

python多線程如何實現多任務

        可以看到子進程對象是由multiprocessing模塊中的Process類創建的。除了p1,p2兩個被創建的子進程外。當然還有主進程。主進程就是我們從頭到尾的代碼,包括子進程也是由主進程創建的。

注意的點有:

(1)首先解釋一下并發:并發就是當任務數大于cpu核數時,通過操作系統的各種任務調度算法,實現多個任務“一起”執行。(實際上總有一些任務不在執行,因為切換任務相當快,看上去想同時執行而已。)

(2)當是并發的情況下,子進程主進程的運行都是沒有順序的,CPU會采用時間片輪詢的方式,哪個程序先要運行就先運行哪個。

(3)主進程會默認等待所有子進程執行完畢后,它才會退出。所以在上面的例子中,p1,p2子進程是死循環進程,主進程的最后一句代碼print("I am main task")雖然運行完了,但是主進程并不會關閉,他會一直等待著子進程。

(4)主進程默認創建的是非守護進程。注意,結合3.和5.看。

(5)但是!如果子進程守護進程的話,那么主進程運行完最后一句代碼后,主進程會直接關閉,不管你子進程運行完了沒有!

2.1.2 方式2

from multiprocessing import Process  
import os, time
 
class CustomProcess(Process):
    def __init__(self, p_name, target=None):
        # step 1: call base __init__ function()
        super(CustomProcess, self).__init__(name=p_name, target=target, args=(p_name,))
 
    def run(self):
        # step 2:
        # time.sleep(0.1)
        print("Custom Process name: %s, pid: %s "%(self.name, os.getpid()))
 
if __name__ == "__main__":
    p1 = CustomProcess("process_1")
    p1.start()
    p1.join()
    print("subprocess pid: %s"%p1.pid)
    print("current process pid: %s" % os.getpid())

輸出:

python多線程如何實現多任務

        這里可以思考一下,如果像多線程一樣,存在一個全局的變量share_data,不同進程同時訪問share_data會有問題嗎?

        由于每一個進程擁有獨立的內存地址空間且互相隔離,因此不同進程看到的share_data是不同的、分別位于不同的地址空間,同時訪問不會有問題。這里需要注意一下。

2.2 守護進程

 測試下:

import multiprocessing
import time
 
 
def task1():
    while True:
        time.sleep(1)
        print("I am task1")
 
def task2():
    while True:
        time.sleep(2)
        print("I am task2")
 
 
if __name__ == "__main__":
    p1 = multiprocessing.Process(target=task1)
    p2 = multiprocessing.Process(target=task2)
    p1.daemon = True  # 設置p1子進程為守護進程
    p2.daemon = True  # 設置p2子進程為守護進程
    p1.start()
    p2.start()
    print("I am main task")

輸出:

I am main task

輸出結果是不是有點奇怪。為什么p1,p2子進程都沒有輸出的?

讓我們來整理一下思路:

  • 創建p1,p2子進程

  • 設置p1,p2子進程為守護進程

  • p1,p2子進程開啟

  • p1,p2子進程代碼里面都有休眠時間,所以cpu為了不浪費時間,先做主進程后續的代碼。

  • 執行主進程后續的代碼,print("I am main task")

  • 主進程后續的代碼執行完成了,所以剩下的子進程是守護進程的,全都要關閉了。但是,如果主進程的代碼執行完了,有兩個子進程,一個是守護的,一個非守護的,怎么辦呢?其實,他會等待非守護的那個子進程運行完,然后三個進程一起關閉。

  • p1,p2還在休眠時間內就被終結生命了,所以什么輸出都沒有。

例如,把P1設為非守護進程:

import multiprocessing
import time
 
 
def task1():
    i = 1
    while i < 5:
        time.sleep(1)
        i += 1
        print("I am task1")
 
def task2():
    while True:
        time.sleep(2)
        print("I am task2")
 
 
if __name__ == "__main__":
    p1 = multiprocessing.Process(target=task1)
    p2 = multiprocessing.Process(target=task2)
    p2.daemon = True  # 設置p2子進程為守護進程
    p1.start()
    p2.start()
    print("I am main task")

輸出:

python多線程如何實現多任務

里面涉及到兩個知識點:

(1)當主進程結束后,會發一個消息給子進程(守護進程),守護進程收到消息,則立即結束

(2)CPU是按照時間片輪詢的方式來運行多進程的。哪個合適的哪個運行,如果你的子進程里都有time.sleep。那我CPU為了不浪費資源,肯定先去干點其他的事情啊。

        那么,守護進程隨時會被中斷,他的存在意義在哪里的?

        其實,守護進程主要用來做與業務無關的任務,無關緊要的任務,可有可無的任務,比如內存垃圾回收,某些方法的執行時間的計時等。

2.3 創建的子進程要傳入參數

import multiprocessing
 
 
def task(a,b,*args,**kwargs):
    print("a")
    print("b")
    print(args)
    print(kwargs)
 
 
if __name__ == "__main__":
    p1 = multiprocessing.Process(target=task,args=(1,2,3,4,5,6),kwargs={"name":"chichung","age":23})
    p1.start()
    print("主進程已經運行完最后一行代碼啦")

輸出:

python多線程如何實現多任務

        子進程要運行的函數需要傳入變量a,b,一個元組,一個字典。我們創建子進程的時候,變量a,b要放進元組里面,task函數取的時候會把前兩個取出來,分別賦值給a,b了。

2.4 子進程幾個常用的方法

p.start開始執行子線程
p.name查看子進程的名稱
p.pid查看子進程的id
p.is_alive判斷子進程是否存活
p.join(timeout)

阻塞主進程,當子進程p運行完畢后,再解開阻塞,讓主進程運行后續的代碼

如果timeout=2,就是阻塞主進程2s,這2s內主進程不能運行后續的代碼。過了2s后,就算子進程沒有運行完畢,主進程也能運行后續的代碼

p.terminate終止子進程p的運行
import multiprocessing
 
def task(a,b,*args,**kwargs):
    print("a")
    print("b")
    print(args)
    print(kwargs)
 
 
if __name__ == "__main__":
    p1 = multiprocessing.Process(target=task,args=(1,2,3,4,5,6),kwargs={"name":"chichung","age":23})
    p1.start()
    print("p1子進程的名字:%s" % p1.name)
    print("p1子進程的id:%d" % p1.pid)
    p1.join()
    print(p1.is_alive())

輸出:

python多線程如何實現多任務

2.5 進程之間是不可以共享全局變量

        進程之間是不可以共享全局變量的,即使子進程與主進程。道理很簡單,一個新的進程,其實就是占用一個新的內存空間,不同的內存空間,里面的變量肯定不能夠共享的。實驗證明如下:

示例一:

import multiprocessing
 
g_list = [123]
 
def task1():
    g_list.append("task1")
    print(g_list)
 
def task2():
    g_list.append("task2")
    print(g_list)
 
def main_process():
    g_list.append("main_processs")
    print(g_list)
 
if __name__ == "__main__":
    p1 = multiprocessing.Process(target=task1)
    p2 = multiprocessing.Process(target=task2)
    p1.start()
    p2.start()
    main_process()
    print("11111: ", g_list)

輸出:

[123, "main_processs"]
11111: [123, "main_processs"]
[123, "task1"]
[123, "task2"]

 示例二:

import multiprocessing
import time
 
 
def task1(loop):
    global num
    for i in range(loop):
        # 等價于 num += 1
        temp = num
        num = temp + 1
    print(num)
    print("I am task1")
 
def task2(loop):
    global num
    for i in range(loop):
        # 等價于 num += 1
        temp = num
        num = temp + 1
    print(num)
    print("I am task2")
 
 
if __name__ == "__main__":
    p1 = multiprocessing.Process(target=task1, args=(100000,)  # multiprocessing.Process創建了子進程對象p1
    p2 = multiprocessing.Process(target=task2, args=(100000,)  # multiprocessing.Process創建了子進程對象p2
    p1.start()  # 子進程p1啟動
    p2.start()  # 子進程p2啟動
    print("I am main task")  # 這是主進程的任務

輸出:

python多線程如何實現多任務

2.6 python進程池:multiprocessing.pool

        進程池可以理解成一個隊列,該隊列可以容易指定數量的子進程,當隊列被任務占滿之后,后續新增的任務就得排隊,直到舊的進程有任務執行完空余出來,才會去執行新的任務。

        在利用Python進行系統管理的時候,特別是同時操作多個文件目錄,或者遠程控制多臺主機,并行操作可以節約大量的時間。當被操作對象數目不大時,可以直接利用multiprocessing中的Process動態成生多個進程,十幾個還好,但如果是上百個,上千個目標,手動的去限制進程數量卻又太過繁瑣,此時可以發揮進程池的功效。

        Pool可以提供指定數量的進程供用戶調用,當有新的請求提交到pool中時,如果池還沒有滿,那么就會創建一個新的進程用來執行該請求;但如果池中的進程數已經達到規定最大值,那么該請求就會等待,直到池中有進程結束,才會創建新的進程來它。

2.6.1 使用進程池(非阻塞)

#coding: utf-8
import multiprocessing
import time
 
def func(msg):
    print("msg:", msg)
    time.sleep(3)
    print("end")
 
if __name__ == "__main__":
    pool = multiprocessing.Pool(processes = 3) # 設定進程的數量為3
    for i in range(4):
        msg = "hello %d" %(i)
        pool.apply_async(func, (msg, ))   #維持執行的進程總數為processes,當一個進程執行完畢后會添加新的進程進去
 
    print("Mark~ Mark~ Mark~~~~~~~~~~~~~~~~~~~~~~")
    pool.close()
    pool.join()   #調用join之前,先調用close函數,否則會出錯。執行完close后不會有新的進程加入到pool,join函數等待所有子進程結束
    print("Sub-process(es) done.")

輸出:

python多線程如何實現多任務

函數解釋

  • apply_async(func[, args[, kwds[, callback]]]) 它是非阻塞,apply(func[, args[, kwds]])是阻塞的(理解區別,看例1例2結果區別)

  • close() 關閉pool,使其不在接受新的任務。

  • terminate() 結束工作進程,不在處理未完成的任務。

  • join() 主進程阻塞,等待子進程的退出, join方法要在close或terminate之后使用。

apply(), apply_async():

  • apply(): 阻塞主進程, 并且一個一個按順序地執行子進程, 等到全部子進程都執行完畢后 ,繼續執行 apply()后面主進程的代碼

  • apply_async() 非阻塞異步的, 他不會等待子進程執行完畢, 主進程會繼續執行, 他會根據系統調度來進行進程切換

執行說明:創建一個進程池pool,并設定進程的數量為3,xrange(4)會相繼產生四個對象[0, 1, 2, 4],四個對象被提交到pool中,因pool指定進程數為3,所以0、1、2會直接送到進程中執行,當其中一個執行完事后才空出一個進程處理對象3,所以會出現輸出“msg: hello 3”出現在"end"后。因為為非阻塞,主函數會自己執行自個的,不搭理進程的執行,所以運行完for循環后直接輸出“mMsg: hark~ Mark~ Mark~~~~~~~~~~~~~~~~~~~~~~”,主程序在pool.join()處等待各個進程的結束。

2.6.2 使用進程池(阻塞)

#coding: utf-8
import multiprocessing
import time
 
def func(msg):
    print("msg:", msg)
    time.sleep(3)
    print("end")
 
if __name__ == "__main__":
    pool = multiprocessing.Pool(processes = 3) # 設定進程的數量為3
    for i in range(4):
        msg = "hello %d" %(i)
        pool.apply(func, (msg, ))   #維持執行的進程總數為processes,當一個進程執行完畢后會添加新的進程進去
 
    print("Mark~ Mark~ Mark~~~~~~~~~~~~~~~~~~~~~~")
    pool.close()
    pool.join()   #調用join之前,先調用close函數,否則會出錯。執行完close后不會有新的進程加入到pool,join函數等待所有子進程結束
    print("Sub-process(es) done.")

輸出:

python多線程如何實現多任務

2.6.3 使用進程池,并關注結果

import multiprocessing
import time
 
def func(msg):
    print("msg:", msg)
    time.sleep(3)
    print("end")
    return "done" + msg
 
if __name__ == "__main__":
    pool = multiprocessing.Pool(processes=4)
    result = []
    for i in range(3):
        msg = "hello %d" %(i)
        result.append(pool.apply_async(func, (msg, )))
    pool.close()
    pool.join()
    for res in result:
        print(":::", res.get())
    print("Sub-process(es) done.")

輸出:

python多線程如何實現多任務

  :get()函數得出每個返回結果的值

3 python多線程與多進程比較

先來看兩個例子:

(1)示例一,多線程與單線程,開啟兩個python線程分別做一億次加一操作,和單獨使用一個線程做一億次加一操作:

import threading
import time
 
def tstart(arg):
    var = 0
    for i in range(100000000):
        var += 1
    print(arg, var)
 
if __name__ == "__main__":
    t1 = threading.Thread(target=tstart, args=("This is thread 1",))
    t2 = threading.Thread(target=tstart, args=("This is thread 2",))
    start_time = time.time()
    t1.start()
    t2.start()
    t1.join()
    t2.join()
    print("Two thread cost time: %s" % (time.time() - start_time))
    start_time = time.time()
    tstart("This is thread 0")
    print("Main thread cost time: %s" % (time.time() - start_time))

輸出:

python多線程如何實現多任務

 上面的例子如果只開啟t1和t2兩個線程中的一個,那么運行時間和主線程基本一致。

 (2)示例二,使用兩個進程

from multiprocessing import Process  
import os, time
 
def pstart(arg):
    var = 0
    for i in range(100000000):
        var += 1
    print(arg, var)
 
if __name__ == "__main__":
    p1 = Process(target = pstart, args = ("1", ))
    p2 = Process(target = pstart, args = ("2", ))
    start_time = time.time()
    p1.start()
    p2.start()
    p1.join()
    p2.join()
    print("Two process cost time: %s" % (time.time() - start_time))
    start_time = time.time()
    pstart("0")
    print("Current process cost time: %s" % (time.time() - start_time))

輸出:

python多線程如何實現多任務

 對比分析:

        雙進程并行執行單進程執行相同的運算代碼,耗時基本相同,雙進程耗時會稍微多一些,可能的原因是進程創建和銷毀會進行系統調用,造成額外的時間開銷。

        但是對于python線程,雙線程并行執行耗時比單線程要高的多,效率相差近10倍。如果將兩個并行線程改成串行執行,即:

import threading
import time
 
def tstart(arg):
    var = 0
    for i in range(100000000):
        var += 1
    print(arg, var)
 
if __name__ == "__main__":
    t1 = threading.Thread(target=tstart, args=("This is thread 1",))
    t2 = threading.Thread(target=tstart, args=("This is thread 2",))
    start_time = time.time()
    t1.start()
    t1.join()
    print("thread1 cost time: %s" % (time.time() - start_time))
    start_time = time.time()
    t2.start()
    t2.join()
    print("thread2 cost time: %s" % (time.time() - start_time))
    start_time = time.time()
    tstart("This is thread 0")
    print("Main thread cost time: %s" % (time.time() - start_time))

輸出:

python多線程如何實現多任務

可以看到三個線程串行執行,每一個執行的時間基本相同。

本質原因雙線程是并發執行的,而不是真正的并行執行。原因就在于GIL鎖

4 GIL鎖

        提起python多線程就不得不提一下GIL(Global Interpreter Lock 全局解釋器鎖),這是目前占統治地位的python解釋器CPython中為了保證數據安全所實現的一種鎖。不管進程中有多少線程,只有拿到了GIL鎖的線程才可以在CPU上運行,即使是多核處理器對一個進程而言,不管有多少線程,任一時刻,只會有一個線程在執行。對于CPU密集型的線程,其效率不僅僅不高,反而有可能比較低。python多線程比較適用于IO密集型的程序。對于的確需要并行運行的程序,可以考慮多進程。

        多線程對鎖的爭奪,CPU對線程的調度,線程之間的切換等均會有時間開銷。

5 線程和進程比較

5.1 線程和進程的區別

下面簡單的比較一下線程與進程

  • 進程是資源分配的基本單位,線程是CPU執行和調度的基本單位;

  • 通信/同步方式:

    • 同步方式:互斥鎖,遞歸鎖,條件變量,信號量

    • 通信方式:位于同一進程的線程共享進程資源,因此線程間沒有類似于進程間用于數據傳遞的通信方式,線程間的通信主要是用于線程同步。

    • 通信方式:管道,FIFO,消息隊列,信號,共享內存,socket,stream流;

    • 同步方式:PV信號量,管程

    • 進程:

    • 線程:

  • CPU上真正執行的是線程,線程比進程輕量,其切換和調度代價比進程要小;

  • 線程間對于共享的進程數據需要考慮線程安全問題,由于進程之間是隔離的,擁有獨立的內存空間資源,相對比較安全,只能通過上面列出的IPC(Inter-Process Communication)進行數據傳輸;

  • 系統有一個個進程組成,每個進程包含代碼段、數據段、堆空間和棧空間,以及操作系統共享部分 ,有等待,就緒和運行三種狀態;

  • 一個進程可以包含多個線程,線程之間共享進程的資源(文件描述符、全局變量、堆空間等),寄存器變量和棧空間等是線程私有的;

  • 操作系統中一個進程掛掉不會影響其他進程,如果一個進程中的某個線程掛掉而且OS對線程的支持是多對一模型,那么會導致當前進程掛掉;

  • 如果CPU和系統支持多線程與多進程,多個進程并行執行的同時,每個進程中的線程也可以并行執行,這樣才能最大限度的榨取硬件的性能;

python多線程如何實現多任務

5.2 線程和進程的上下文切換

進程切換過程切換牽涉到非常多的東西,寄存器內容保存到任務狀態段TSS,切換頁表,堆棧等。簡單來說可以分為下面兩步:

  • 頁全局目錄切換,使CPU到新進程的線性地址空間尋址;

  • 切換內核態堆棧和硬件上下文,硬件上下文包含CPU寄存器的內容,存放在TSS中;

線程運行于進程地址空間,切換過程不涉及到空間的變換,只牽涉到第二步;

5.3 使用多線程還是多進程?

  • CPU密集型:程序需要占用CPU進行大量的運算和數據處理;適合多進程;

  • I/O密集型:程序中需要頻繁的進行I/O操作;例如網絡中socket數據傳輸和讀取等;適合多線程

由于python多線程并不是并行執行,因此較適合與I/O密集型程序,多進程并行執行適用于CPU密集型程序

“python多線程如何實現多任務”的內容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站,小編將為大家輸出更多高質量的實用文章!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

界首市| 菏泽市| 凤庆县| 乌拉特后旗| 邢台县| 临漳县| 奇台县| 务川| 宣恩县| 资兴市| 普陀区| 丰原市| 京山县| 瓦房店市| 稻城县| 鸡西市| 重庆市| 巴彦淖尔市| 合作市| 海兴县| 古田县| 岳阳县| 大埔县| 云南省| 甘洛县| 紫金县| 都昌县| 霍山县| 兴城市| 股票| 南投市| 综艺| 西藏| 西畴县| 治多县| 徐闻县| 招远市| 桐庐县| 阿克苏市| 泽库县| 响水县|