您好,登錄后才能下訂單哦!
小編給大家分享一下python爬蟲中偽裝瀏覽器的方法,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
實現偽裝瀏覽器須知:
我們如果想去獲取某些內容,得先讓自己和他們處于同類,這樣才不會被攻擊,才可以跟對手網站和平相處,接收到他們的信息。引入ProxyHandler組件,訪問需要通過build_opener調用handler來實現。
實現代碼如下:
from urllib.request import Request, build_opener from fake_useragent import UserAgent from urllib.request import ProxyHandler url = "http://httpbin.org/get" headers={ "User-Agent": UserAgent().chrome } request = Request(url, headers=headers) handler = ProxyHandler({"http" : "112.85.129.8:9999"}) opener = build_opener(handler) response = opener.open(request) print(response.read().decode())
測試結果
先運行程序看看目前沒有用代理的時候IP的信息
再看看利用了proxy之后產生的結果
以上是“python爬蟲中偽裝瀏覽器的方法”這篇文章的所有內容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內容對大家有所幫助,如果還想學習更多知識,歡迎關注億速云行業資訊頻道!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。