怎么在python中使用feapde實現一個爬蟲

這篇文章給大家介紹怎么在python中使用feapde實現一個爬蟲，內容非常詳細，感興趣的小伙伴們可以參考借鑒，希望對大家能有所幫助。

python是什么意思

Python是一種跨平臺的、具有解釋性、編譯性、互動性和面向對象的腳本語言，其最初的設計是用于編寫自動化腳本，隨著版本的不斷更新和新功能的添加，常用于用于開發獨立的項目和大型項目。

1、首先，讓MysqlDB初始化數據庫。

from feapder.db.mysqldb import MysqlDB
 
class TophubSpider(feapder.AirSpider):
 
    def __init__(self, *args, **kwargs):
        super().__init__(*args, **kwargs)
        self.db = MysqlDB()

2、在start_requests方法中，指定爬取主鏈接地址，使用關鍵詞download_midware配置。

import feapder
from fake_useragent import UserAgent
 
def start_requests(self):
    yield feapder.Request("https://tophub.today/", download_midware=self.download_midware)
 
def download_midware(self, request):
    # 隨機UA
    # 依賴：pip3 install fake_useragent
    ua = UserAgent().random
    request.headers = {'User-Agent': ua}
    return request

3、抓取主頁標題和鏈接地址。

使用內置方法xpath分析數據。

def parse(self, request, response):
    # print(response.text)
    card_elements = response.xpath('//div[@class="cc-cd"]')
 
    # 過濾出對應的卡片元素【什么值得買】
    buy_good_element = [card_element for card_element in card_elements if
                        card_element.xpath('.//div[@class="cc-cd-is"]//span/text()').extract_first() == '什么值得買'][0]
 
    # 獲取內部文章標題及地址
    a_elements = buy_good_element.xpath('.//div[@class="cc-cd-cb nano"]//a')
 
    for a_element in a_elements:
        # 標題和鏈接
        title = a_element.xpath('.//span[@class="t"]/text()').extract_first()
        href = a_element.xpath('.//@href').extract_first()
 
        # 再次下發新任務，并帶上文章標題
        yield feapder.Request(href, download_midware=self.download_midware, callback=self.parser_detail_page,
                              title=title)

關于怎么在python中使用feapde實現一個爬蟲就分享到這里了，希望以上內容可以對大家有一定的幫助，可以學到更多知識。如果覺得文章不錯，可以把它分享出去讓更多的人看到。