中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

python爬蟲ip代理池如何做

發布時間:2020-11-12 09:21:49 來源:億速云 閱讀:218 作者:小新 欄目:編程語言

小編給大家分享一下python爬蟲ip代理池如何做,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!

定義代理IP

proxie = {
        'http' : 'http://xx.xxx.xxx.xxx:xxxx',
        'http' : 'http://xxx.xx.xx.xxx:xxx',
        ....
}

使用代理

response = requests.get(url,proxies=proxies)

如何使用呢

首先使用 git clone 將源代碼拉到你本地

接著在你 clone 下來的文件目錄中

安裝相關所需的 python 模塊:

pip3 install -r requirements.txt

接著就可以運行 run.py 了:

代理池開始運行

 * Running on http://0.0.0.0:5555/ (Press CTRL+C to quit)

開始抓取代理

獲取器開始執行

Crawling http://www.66ip.cn/1.html
正在抓取 http://www.66ip.cn/1.html
抓取成功 http://www.66ip.cn/1.html 200
成功獲取到代理 201.69.7.108:9000
成功獲取到代理 111.67.97.58:36251
成功獲取到代理 187.32.159.61:51936
成功獲取到代理 60.13.42.154:9999
成功獲取到代理 106.14.5.129:80
成功獲取到代理 222.92.112.66:8080
成功獲取到代理 125.26.99.84:60493
...

運行 run.py 你就可以訪問你的代理池了比如隨機獲取一個代理 ip 地址:

這樣訪問之后就會獲取到一個代理 ip。

以上是python爬蟲ip代理池如何做的所有內容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內容對大家有所幫助,如果還想學習更多知識,歡迎關注億速云行業資訊頻道!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

繁昌县| 藁城市| 邵东县| 贵州省| 洛隆县| 通河县| 阿克陶县| 昌黎县| 六盘水市| 济宁市| 永泰县| 康保县| 南陵县| 遵义市| 吉林市| 咸阳市| 麟游县| 来安县| 景谷| 遂溪县| 蕉岭县| 濮阳市| 兴业县| 西平县| 沙田区| 自贡市| 蛟河市| 嘉义县| 鲁山县| 怀柔区| 衡东县| 务川| 六安市| 梁河县| 司法| 资源县| 综艺| 荣成市| 华容县| 镇巴县| 金昌市|