python如何實現爬取中國前20大學排名案例

這篇文章將為大家詳細講解有關python如何實現爬取中國前20大學排名案例，小編覺得挺實用的，因此分享給大家做個參考，希望大家閱讀完這篇文章后可以有所收獲。

一、中國大學排名爬蟲案例的步驟如下：

步驟1：從網絡上獲取大學排名網頁內容 getHTMLText()

步驟2：提取網頁內容中信息到合適的數據結構 fillUnivList()

步驟3：利用數據結構展示并輸出結果 printUnivList()

實例代碼

import requests
import bs4
from bs4 import BeautifulSoup
 
def getHTMLText(url):
    '''從網絡上獲取大學排名網頁內容'''
    try:
        r = requests.get(url, timeout=30)
        # #如果狀態不是200，就會引發HTTPError異常
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ""
 
def fillUnivList(ulist, html):
    '''提取網頁內容中信息到合適的數據結構'''
    soup = BeautifulSoup(html, "html.parser")
    # 查找html中tbody標簽的所有<tr>子標簽
    for tr in soup.find('tbody').children:
        if isinstance(tr, bs4.element.Tag):            
            tds = tr('td')
            # tds[0].string 是排名，tds[1].string 是學校名稱，tds[3].string 是學校的總分
            ulist.append([tds[0].string, tds[1].string, tds[3].string])
 
def printUnivList(ulist, num):
    ''' 打印前 num 名的大學'''
     # {1:{3}^10} 中的 {3} 代表取第三個參數
    tplt = "{0:^10}\t{1:{3}^10}\t{2:^10}"
    print(tplt.format("排名","學校名稱","總分",chr(12288))) # chr(12288) 代表中文空格
    for i in range(num):
        u=ulist[i]
        print(tplt.format(u[0],u[1],u[2],chr(12288))) # chr(12288) 代表中文空格
 
def main():
    uinfo = []
    url = 'http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html'
    html = getHTMLText(url)# 獲取大學排名網頁內容
    fillUnivList(uinfo, html)#提取網頁內容中信息   
    printUnivList(uinfo, 20) #輸出結果
 
main()

結果如下

關于python如何實現爬取中國前20大學排名案例就分享到這里了，希望以上內容可以對大家有一定的幫助，可以學到更多知識。如果覺得文章不錯，可以把它分享出去讓更多的人看到。