您好,登錄后才能下訂單哦!
這篇文章主要介紹了python分布式爬蟲中的celery如何使用,具有一定借鑒價值,需要的朋友可以參考下。希望大家閱讀完這篇文章后大有收獲。下面讓小編帶著大家一起了解一下。
1. broker:翻譯過來叫做中間人。它是一個消息傳輸的中間件,可以理解為一個郵箱。每當應用程序調用celery的異步任務的時候,會向broker傳遞消息,而后celery的worker將會取到消息,執行相應程序。這其實就是消費者和生產者之間的橋梁。
2. backend: 通常程序發送的消息,發完就完了,可能都不知道對方時候接受了。為此,celery實現了一個backend,用于存儲這些消息以及celery執行的一些消息和結果。
3. worker: Celery類的實例,作用就是執行各種任務。注意在celery3.1.25后windows是不支持celery worker的!
4. producer: 發送任務,將其傳遞給broker
5. beat: celery實現的定時任務。可以將其理解為一個producer,因為它也是通過網絡調用定時將任務發送給worker執行。注意在windows上celery是不支持定時任務的!
下面是關于celery的架構示意圖,結合上面文字的話應該會更好理解
感謝你能夠認真閱讀完這篇文章,希望小編分享python分布式爬蟲中的celery如何使用內容對大家有幫助,同時也希望大家多多支持億速云,關注億速云行業資訊頻道,遇到問題就找億速云,詳細的解決方法等著你來學習!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。