中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Pycharm安裝scrapy及初始化爬蟲項目的方法

發布時間:2022-08-08 15:34:39 來源:億速云 閱讀:214 作者:iii 欄目:開發技術

這篇文章主要介紹了Pycharm安裝scrapy及初始化爬蟲項目的方法的相關知識,內容詳細易懂,操作簡單快捷,具有一定借鑒價值,相信大家閱讀完這篇Pycharm安裝scrapy及初始化爬蟲項目的方法文章都會有所收獲,下面我們一起來看看吧。

一)安裝scrapy:

1、打開cmd命令窗口,輸入:pip install Scrapy。

2、安裝成功之后會顯示下面字符,表示未將scrapy設置到環境變量。

Pycharm安裝scrapy及初始化爬蟲項目的方法

3、配置環境變量:右鍵我的電腦-->屬性-->高級設置--->環境變量---->系統變量中的Path--->編輯--->添加--->將上文中黃色的路徑添加到環境變量即可。

4、scrapy安裝完畢。

二)創建一個scrapy爬蟲項目:

1、創建一個普通的Pycharm項目,然后找到下面的terminal

Pycharm安裝scrapy及初始化爬蟲項目的方法

 2、輸入命令scrapy startproject 模塊名稱(可以自己隨便起,我以名為mine為例),成功之后你會發現自己的項目中多了一個mine的包文件。

Pycharm安裝scrapy及初始化爬蟲項目的方法

 3、上述操作成功后終端會顯示下圖文字:此時我們輸入cd那條命令。進入目標文件。

Pycharm安裝scrapy及初始化爬蟲項目的方法

 4、這時就可以創建爬蟲目標文件啦,

        輸入scrapy genspider 爬取名 網站域名

1、爬取名是自己隨便起的,比如我要爬百度那么我就可以起名為baidu

2、網站域名就是去掉  https:www.  剩下的部分

 2和3操作截圖: 

Pycharm安裝scrapy及初始化爬蟲項目的方法

5、此時我們會在目錄里看見一個新的py文件:里自動生成如下代碼:

Pycharm安裝scrapy及初始化爬蟲項目的方法

Pycharm安裝scrapy及初始化爬蟲項目的方法

三)開啟pycharm對scrapy框架的調試功能:

由于pycharm沒有創建scrapy框架的模塊,所以我們想調試scrapy程序時要自己寫一個小腳本來開啟pycharm對scrapy的調試功能。

 1、在與mine包同級條件下創建一個main.py文件:

Pycharm安裝scrapy及初始化爬蟲項目的方法

 2、mine文件將一下代碼賦值進去:

import os
import sys
 
from scrapy.cmdline import execute
 
sys.path.append(os.path.dirname(os.path.abspath(__file__)))
execute(["scrapy", "crawl", "cnblog"])  # 第三個參數為自己創建的那個爬取的名稱

關于“Pycharm安裝scrapy及初始化爬蟲項目的方法”這篇文章的內容就介紹到這里,感謝各位的閱讀!相信大家對“Pycharm安裝scrapy及初始化爬蟲項目的方法”知識都有一定的了解,大家如果還想學習更多知識,歡迎關注億速云行業資訊頻道。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

永安市| 神农架林区| 宜城市| 凤庆县| 平阴县| 临潭县| 洛隆县| 灵寿县| 安岳县| 宁国市| 东至县| 安溪县| 南和县| 霍林郭勒市| 尉氏县| 榕江县| 台山市| 全州县| 红原县| 陇川县| 重庆市| 民乐县| 界首市| 泸定县| 霍州市| 西盟| 邳州市| 怀来县| 连云港市| 韶关市| 承德市| 丰原市| 平乐县| 金寨县| 盖州市| 衡水市| 贺兰县| 上杭县| 遵化市| 浦城县| 桂东县|