您好,登錄后才能下訂單哦!
學習【node.js】也有幾天時間了,所以打算寫著練練手;索然我作為一個后端的選手,寫起來還有那么一絲熟悉的感覺。emmm~~ ‘貨'不多講 ,開搞........
首先是依賴選擇:
代碼塊如下:
//引入依賴 //https請求 const https = require('https'); //簡稱node版的jquery const cheerio = require('cheerio'); //解決防止出現亂碼 const iconv = require('iconv-lite') //http請求 const request = require("request"); //負責讀寫文件 const fs = require('fs'); //處理文件路徑 const path = require('path');
爬取路徑:
代碼塊:(PS:這里單獨拿出來是因為這個站的素材比較推薦,可以上去瞅瞅~~)
const url = 'https://unsplash.com/';
初步實現:
網站的基本構成
這里主要是我們直接確認一下需要的【img】標簽,以及外面的【figure】,然后直接就可以開工了....
核心代碼:
//方法對象 const util = { getsrc: function (url) { https.get(url, res => { const chunks = []; res.on('data', chunk => { // chunks里面存儲著網頁的html內容 chunks.push(chunk); }); res.on('end', e => { let ALL = []; //編碼格式 let html = iconv.decode(Buffer.concat(chunks), 'utf8'); let $ = cheerio.load(html, { decodeEntities: false }); //標簽遍歷 $("figure img").each(function (idex, elent) { let $elent = $(elent); let $srcset = $elent.attr("srcset"); if ($srcset != undefined) { let src = ($srcset.split(',').pop()).split('?')[0]; ALL.push({ src: src }) } }); //遍歷數組 每個后面加.jpg ALL.forEach(item => { util.downloadimg(item.src, path.basename(item.src) + ".jpg", function () { console.log(path.basename(item.src) + ".jpg"); }); }) }); res.on('error', e => { console.log('Error: ' + e.message); }); }); }, //運行主函數 main: function () { console.log("------start--------"); util.getsrc(url); }, //下載圖片函數 downloadimg: function (src, srcname, callback) { //http請求 request.head(src, function (err, res, body) { if (err) { console.log('err:' + err); return false; } console.log('res: ' + res); //保存數據,這里是防止未來得及記錄數據又開始讀取數據而導致數據丟失 request(src).pipe(fs.createWriteStream('./img/' + srcname)).on('close', callback); }); } } //主函數 util.main();
然后就可以運行 node xxx.js 看運行結果。
以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持億速云。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。