溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務條款》
您好，登錄后才能下訂單哦！
本篇內容介紹了“為什么不能用Nutch編寫分布式爬蟲”的有關知識，在實際案例的操作過程中，不少人都會遇到這樣的困境，接下來就讓小編帶領大家學習一下如何處理這些情況吧！希望大家仔細閱讀，能夠學有所成！
1、Nutch依靠hadoop運行，hadoop本身就會花費大量的時間。
若集群機數量較少，爬行速度反而不如單機爬蟲快。
2、Nutch是為搜索引擎設計的爬蟲，不精確。
大多數用戶需要一個爬蟲來爬取準確的數據(提取精確)。在Nutch運行的一整套過程中，三分之二是為搜索引擎設計的，對精選沒有多大意義。也就是說，用Nutch做數據抽取，會浪費很多的時間在不必要的計算上。并且，通過二次開發Nutch，使其適用于精選業務，基本上破壞Nutch的框架，使Nutch的臉完全不同，具有修正Nutch的能力，與其自己重寫分布式爬蟲框架相比。
3、Nutch可以提供提取功能。
但開發Nutch插件的人都知道Nutch插件系統有多糟糕。使用反射機制裝入和調用插件，使程序的編寫和調試變得非常困難，更別提在上面開發一套復雜的精提取系統了。
4、用Nutch爬蟲的編寫和調試所需的時間長
通常是單機爬蟲的十倍以上。學習Nutch源代碼的成本很高，在調試過程中會出現各種問題，除了程序本身。
“為什么不能用Nutch編寫分布式爬蟲”的內容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站，小編將為大家輸出更多高質量的實用文章！
免責聲明：本站發布的內容（圖片、視頻和文字）以原創、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯系站長郵箱：is@yisu.com進行舉報，并提供相關證據，一經查實，將立刻刪除涉嫌侵權內容。
