c#如何爬取優酷電影信息

這篇文章將為大家詳細講解有關c#如何爬取優酷電影信息，小編覺得挺實用的，因此分享給大家做個參考，希望大家閱讀完這篇文章后可以有所收獲。

爬蟲步驟

• 加載頁面

• 解析數據

• 保存數據
  

繼第一篇文檔后的爬蟲進階，本文章主要是對上一篇的進階。實現的功能主要為：
1、爬取電影類別列表
2、循環每個類別的電影信息，對每個類別的信息分頁爬取
3、爬取的數據保存到數據庫中

一、爬取電影類別列表

使用Chrome瀏覽器，F12，找到當前位置，得到當前位置的Xpath。我們需要的數據是電影的類別編碼和電影類別名稱。

規則分析：
XPATH路徑為 "//*[@id='filterPanel']/div/ul/li/a")
類別編碼為A標簽Href路徑的內容，我們對其進行截取
類別名稱為A標簽InnerTest，我們對其進行截取

代碼示例

  //加載web內容
   private static readonly string _url = "http://list.youku.com/category/video/c_0.html";

  /// <summary>
  ///  得到所有的類別
  /// </summary>
  public static List<VideoType> GetVideoTypes()
  {
   //加載web內容
   var web = new HtmlWeb();
   var doc = web.Load(_url);

   //內容解析-獲得所有的類別
   var allTypes = doc.DocumentNode.SelectNodes("//*[@id='filterPanel']/div/ul/li/a").ToList();

   //類別列表中去掉【全部】這個選項
   var typeResults = allTypes.Where((u, i) => { return i > 0; }).ToList();

   var reList = new List<VideoType>();
   foreach (var node in typeResults)
   {
    var href = node.Attributes["href"].Value;
    reList.Add(new VideoType
    {
     Code = href.Substring(href.LastIndexOf("/") + 1, href.LastIndexOf(".") - href.LastIndexOf("/") - 1),
     Name = node.InnerText
    });
   }

   return reList;
  }

二、爬取每個類別的總分頁數

code 為電影類別編碼
頁面規則 $"http://list.youku.com/category/show/[code].html"
根據頁面規則進行爬取：

  /// <summary>
  ///  得到當前類別的總頁數
  /// </summary>
  public static int GetPageCountByCode(string code)
  {
   var web = new HtmlWeb();
   var doc = web.Load($"http://list.youku.com/category/show/[code].html");

   //分頁列表
   var pageList = doc.DocumentNode.CssSelect(".yk-pages li").ToList();
   //得到倒數第二項
   var lastsecond = pageList[pageList.Count - 2];
   return Convert.ToInt32(lastsecond.InnerText);
  }

三、按照頁碼得到每個電影類別的內容

根據分頁規則分析出分頁后的地址為
code 為編碼 pageIndex為第幾頁
頁面規則：http://list.youku.com/category/show/[code]s_1_d_1_p{pageIndex}.html
根據頁面規則進行爬取：

 /// <summary>
  ///  得到當前類別的內容
  /// </summary>
  public static List<VideoContent> GetContentsByCode(string code, int pageIndex)
  {
   var web = new HtmlWeb();
   var doc = web.Load($"http://list.youku.com/category/show/[code]_s_1_d_1_p_{pageIndex}.html");

   var returnLi = new List<VideoContent>();
   var contents = doc.DocumentNode.CssSelect(".yk-col4").ToList();

   foreach (var node in contents)
    returnLi.Add(new VideoContent
    {
     PageIndex = pageIndex.ToString(),
     Code = code,
     Title = node.CssSelect(".info-list .title a").FirstOrDefault()?.InnerText,
     Hits = node.CssSelect(".info-list li").LastOrDefault()?.InnerText,
     Href = node.CssSelect(".info-list .title a").FirstOrDefault()?.Attributes["href"].Value,
     ImgHref = node.CssSelect(".p-thumb img").FirstOrDefault()?.Attributes["Src"].Value
    });

   return returnLi;
  }

四、測試爬取的結果

  /// <summary>
  ///  打印得到的內容
  /// </summary>
  public static void PrintContent()
  {
   var count = 0;
   foreach (var node in GetVideoTypes())
   {
    var resultLi = new List<VideoContent>();
    //得到當前類別總分頁數
    var pageCount = GetPageCountByCode(node.Code);
    //遍歷分頁得到內容
    for (var i = 1; i <= pageCount; i++) resultLi.AddRange(GetContentsByCode(node.Code, i));
    Console.WriteLine($"編碼{node.Code} \t 頁數{pageCount} \t 總個數{resultLi.Count}");
    count += resultLi.Count;
   }

   Console.WriteLine($"總個數為{count}");
  }

關于“c#如何爬取優酷電影信息”這篇文章就分享到這里了，希望以上內容可以對大家有一定的幫助，使各位可以學到更多知識，如果覺得文章不錯，請把它分享出去讓更多的人看到。