怎么在python中使用進程池

這篇文章給大家介紹怎么在python中使用進程池，內容非常詳細，感興趣的小伙伴們可以參考借鑒，希望對大家能有所幫助。

Python主要用來做什么

Python主要應用于：1、Web開發；2、數據科學研究；3、網絡爬蟲；4、嵌入式應用開發；5、游戲開發；6、桌面應用開發。

1、使用注意

（1）使用池時，如果未指定進程數，則默認為CPU核心數。

（2）核心數量對應于計算機的邏輯處理器數量(任務管理器-性能)，而不是核心數量(我的計算機有2個核心和4個邏輯處理器，因此這里默認使用4個進程)

（3）進程數可以是幾十萬，并不意味著開放進程的最大數量是4。只要使用池(10)，就可以同時打開10個進程進行爬網。

（4）但是需要注意的是，無論多線程還是多進程，打開過多都會導致切換耗時，降低效率，所以創建過多的多線程和進程是謹慎的。

2、實例

import requests
from bs4 import BeautifulSoup
from multiprocessing import Pool, current_process
def get_title(i):    
print('start', current_process().name)    
title_list = []    
url = 'https://movie.douban.com/top250?start={}&filter='.format(i*25)    
r = requests.get(url)    
soup = BeautifulSoup(r.content, 'html.parser')    
lis = soup.find('ol', class_='grid_view').find_all('li')    
for li in lis:        
title = li.find('span', class_="title").text        
# return title        
title_list.append(title)        
print(title)    
return(title_list)if __name__ == '__main__':    
pool = Pool()    
for i in range(10):        
pool.apply_async(get_title, (i, ))    
pool.close()    
pool.join()    
print('finish')

關于怎么在python中使用進程池就分享到這里了，希望以上內容可以對大家有一定的幫助，可以學到更多知識。如果覺得文章不錯，可以把它分享出去讓更多的人看到。