中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

如何用python中爬蟲框架scrapy的命令行

發布時間:2020-11-12 09:43:42 來源:億速云 閱讀:173 作者:小新 欄目:編程語言

這篇文章給大家分享的是有關如何用python中爬蟲框架scrapy的命令行的內容。小編覺得挺實用的,因此分享給大家做個參考。一起跟隨小編過來看看吧。

關于命令詳細使用

命令的使用范圍

這里的命令分為全局的命令和項目的命令,全局的命令表示可以在任何地方使用,而項目的命令只能在項目目錄下使用

全局的命令有:

startproject
genspider
settings
runspider
shell
fetch
view
version

項目命令有:

crawl
check
list
edit
parse
Bench

startproject

這個命令沒什么過多的用法,就是在創建爬蟲項目的時候用

genspider

用于生成爬蟲,這里scrapy提供給我們不同的幾種模板生成spider,默認用的是basic,我們可以通過命令查看所有的模板

crawl

這個是用去啟動spider爬蟲格式為:scrapy crawl 爬蟲名字

這里需要注意這里的爬蟲名字和通過scrapy genspider 生成爬蟲的名字是一致的

fetch

scrapy fetch url地址

該命令會通過scrapy downloader 講網頁的源代碼下載下來并顯示出來

這里有一些參數:

--nolog 不打印日志

--headers 打印響應頭信息

--no-redirect 不做跳轉

感謝各位的閱讀!關于如何用python中爬蟲框架scrapy的命令行就分享到這里了,希望以上內容可以對大家有一定的幫助,讓大家可以學到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到吧!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

铜陵市| 信丰县| 辽宁省| 将乐县| 乌拉特中旗| 奎屯市| 西昌市| 洛宁县| 拜城县| 武汉市| 阳曲县| 长汀县| 贵阳市| 武山县| 巨鹿县| 高州市| 会理县| 息烽县| 独山县| 清涧县| 安西县| 隆德县| 崇信县| 武鸣县| 明水县| 长子县| 洛隆县| 竹溪县| 泊头市| 梓潼县| 黄冈市| 涿鹿县| 洛川县| 南京市| 永靖县| 乐陵市| 蓝田县| 怀宁县| 永福县| 马龙县| 达孜县|