溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務條款》
您好，登錄后才能下訂單哦！
這篇文章主要為大家展示了“Hadoop是什么意思”，內容簡而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領大家一起研究并學習一下“Hadoop是什么意思”這篇文章吧。
Hadoop是一個開發和運行處理大規模數據的軟件平臺,是Appach的一個用java語言實現開源軟件框架，實現在大量計算機組成的集群中對海量數據進行分布式計算.
Hadoop框架中最核心設計就是：HDFS和MapReduce.HDFS提供了海量數據的存儲,MapReduce提供了對數據的計算.
數據在Hadoop中處理的流程可以簡單的按照下圖來理解:數據通過Haddop的集群處理后得到結果.
HDFS:Hadoop Distributed File System,Hadoop的分布式文件系統.
大文件被分成默認64M一塊的數據塊分布存儲在集群機器中.
如下圖中的文件 data1被分成3塊,這3塊以冗余鏡像的方式分布在不同的機器中.
MapReduce:Hadoop為每一個input split創建一個task調用Map計算，在此task中依次處理此split中的一個個記錄(record),map會將結果以key--value的形式輸出,hadoop負責按key值將map的輸出整理后作為Reduce的輸入,Reduce Task的輸出為整個job的輸出，保存在HDFS上.
Hadoop的集群主要由 NameNode,DataNode,Secondary NameNode,JobTracker,TaskTracker組成.
如下圖所示:
NameNode中記錄了文件是如何被拆分成block以及這些block都存儲到了那些DateNode節點.
NameNode同時保存了文件系統運行的狀態信息.
DataNode中存儲的是被拆分的blocks.
Secondary NameNode幫助NameNode收集文件系統運行的狀態信息.
JobTracker當有任務提交到Hadoop集群的時候負責Job的運行,負責調度多個TaskTracker.
TaskTracker負責某一個map或者reduce任務.
以上是“Hadoop是什么意思”這篇文章的所有內容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內容對大家有所幫助，如果還想學習更多知識，歡迎關注億速云行業資訊頻道！
免責聲明：本站發布的內容（圖片、視頻和文字）以原創、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯系站長郵箱：is@yisu.com進行舉報，并提供相關證據，一經查實，將立刻刪除涉嫌侵權內容。
