中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Python Multiprocessing多進程 使用tqdm顯示進度條的實現

發布時間:2020-09-04 21:11:08 來源:腳本之家 閱讀:1955 作者:SiyuanChen 欄目:開發技術

1.背景

在python運行一些,計算復雜度比較高的函數時,服務器端單核CPU的情況比較耗時,因此需要多CPU使用多進程加快速度

2.函數要求

筆者使用的是:pathos.multiprocessing 庫,進度條顯示用tqdm庫,安裝方法:

pip install pathos

安裝完成后

from pathos.multiprocessing import ProcessingPool as Pool
from tqdm import tqdm

這邊使用pathos的原因是因為,multiprocessing 庫中的Pool 函數只支持單參數輸入,例如 f(x) = x**2,而不能處理 f (x,y) = x+y 這類的函數

更不用說一些需要參數的函數 例如:F(x , alpha=0.5, gamma = 0.1) 這樣。

3.代碼

定義一個 函數 F [ X ] ,其中,輸入X是可以在第一個維度上迭代的array, 大小:[ num_X, len ] , 在第一維度 num_X 上進行迭代。

def F(X,lamda=10,weight=0.05):
  res={} 
  res.update(F_1(X,lamda=lamda,weight=weight))
  res.update(F_2(X,lamda=lamda,weight=weight))
  return res

x 是 F 的輸出,是一個dict (字典格式)

這里的兩個函數超參數 lamda 和 weight 雖然每次調用的時候值是一樣的,但是還是需要放一個數組每次用于迭代。

zip_lamda = [lamda for i in range(len(X)) ]
zip_weight = [weight for i in range(len(X)) ]
with tqdm(total=len(cold_sequences)) as t:
    for i, x in enumerate(pool.imap(F,X,zip_lamda,zip_weight)):
      X[i,:] = [x[key] for key in x.keys()]
      Y[i,] = 0
      t.update()
  pool.close()
  pool.join()

4.結果

mutiprocess 加速前

Python Multiprocessing多進程 使用tqdm顯示進度條的實現

mutiprocess 加速后

Python Multiprocessing多進程 使用tqdm顯示進度條的實現

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持億速云。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

禹城市| 仙桃市| 锦屏县| 盘锦市| 双桥区| 崇信县| 湘潭市| 镇江市| 大厂| 合作市| 东明县| 广灵县| 岑巩县| 巢湖市| 易门县| 浏阳市| 榆林市| 禄劝| 霞浦县| 英德市| 子洲县| 铁力市| 顺昌县| 晴隆县| 白银市| 娄烦县| 安阳县| 泸西县| 绥德县| 洛宁县| 祁门县| 开封县| 徐水县| 长春市| 上蔡县| 苏州市| 兴城市| 剑河县| 徐州市| 绥德县| 南京市|