python爬蟲怎么爬取微博熱搜

這篇文章主要介紹python爬蟲怎么爬取微博熱搜，文中介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們一定要看完！

python有哪些常用庫

python常用的庫：1.requesuts；2.scrapy；3.pillow；4.twisted；5.numpy；6.matplotlib；7.pygama；8.ipyhton等。

本文教程操作環境：windows7系統、Python 3.9.1，DELL G3電腦。

第一步：導入爬蟲常用的requests，用處是對中文進行url編碼。

import re
import time
import requests
# url編碼和解碼
from urllib import parse

第二步：設置url地址，模擬瀏覽器(這一步可以不用)防止被認出是爬蟲程序。

###網址
url="https://s.weibo.com/top/summary?Refer=top_hot&topnav=1&wvr=6"
###模擬瀏覽器，這個請求頭windows下都能用
header={'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 
(KHTML, like Gecko) Chrome/73.0.3683.103 Safari/537.36'}

第三步：利用req uests庫的get()和lxml的etr ee()來獲 取網頁代碼

###獲取html頁面
  html=etree.HTML(requests.get(url,headers=header).text)

第四步：定義函數，用來爬取某一條熱搜，第二行是合成selector用的，后四行 if else 是用來對齊輸出的

def OneHot(i):
    findhot = '#pl_top_realtimehot > table > tbody > tr:nth-child('+str(i)+') > td.td-02 > a'
    hot = r.html.find(str(findhot),first = True)
    if(i<=10):
        print(str(i-1)+'   '+hot.text)
    else:
        print(str(i-1)+'  '+hot.text)

第五步：爬取熱搜

for i in range(1,52):
    OneHot(i)

以上是“python爬蟲怎么爬取微博熱搜”這篇文章的所有內容，感謝各位的閱讀！希望分享的內容對大家有幫助，更多相關知識，歡迎關注億速云行業資訊頻道！