您好,登錄后才能下訂單哦!
這篇文章主要介紹了Mac環境下如何使用Python Scrapy框架,具有一定借鑒價值,感興趣的朋友可以參考下,希望大家閱讀完這篇文章之后大有收獲,下面讓小編帶著大家一起了解一下。
前言
Scrapy的下載
在終端中輸入代碼'pip3 install scrapy'。
創建Scrapy項目
假設你希望將項目保存至桌面名為Python的文件夾中。可以在終端中輸入'cd ',并將Python文件夾拖拽至其后。換行后,繼續輸入'scrapy startproject ScrapyProject',此處的ScrapyProject為該項目的名字,可根據情況自行定義。
創建爬蟲文件
同樣在ScrapyProject文件夾內,找到spiders文件夾,并在內創建一個新的爬蟲文件,如下圖的book.py。(需要與_pychache_及_init_文件同級。)
編輯爬蟲文件
此處的爬蟲文件為整個Scrapy項目的核心,數據的解析與提取都是在這一步進行的。
運行Scrapy程序
在ScrapyProject文件夾內,找到settings.py文檔,并更改好user_agent相關信息。之后再在終端輸入代碼scrapy crawl book即可。(book為此爬蟲的名字。)
注:上述內容皆為Mac環境下的操作。
感謝你能夠認真閱讀完這篇文章,希望小編分享的“Mac環境下如何使用Python Scrapy框架”這篇文章對大家有幫助,同時也希望大家多多支持億速云,關注億速云行業資訊頻道,更多相關知識等著你來學習!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。