大數據處理架構Hadoop習題有哪些

本篇內容主要講解“大數據處理架構Hadoop習題有哪些”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實用性強。下面就讓小編來帶大家學習“大數據處理架構Hadoop習題有哪些”吧!

1.試述hadoop和谷歌的mapreduce、gfs等技術之間的關系

答：
Hadoop的核心是分布式文件系統HDFS和MapReduce，HDFS是谷歌文件系統GFS的開源實現，MapReduces是針對谷歌MapReduce的開源實現。

2.試述Hadoop具有哪些特性。

答：
高可靠性，高效性，高可擴展性，高容錯性，成本低，運行在Linux平臺，支持多種編程語言

3.試述Hadoop在各個領域的應用情況。

答：2007年，雅虎在Sunnyvale總部建立了M45——一個包含了4000個處理器和1.5PB容量的Hadooop集群系統；

Facebook主要將Hadoop平臺用于日志處理，推薦系統和數據倉庫等方面；

百度主要使用Hadoop于日志的存儲和統計、網頁數據的分析和挖掘、商業分析、在線數據反饋、網頁聚類等。

4.試述Hadoop的項目結構以及每個部分的具體功能。

答:

Commeon是為Hadoop其他子項目提供支持的常用工具，主要包括文件系統、RPC和串行化庫。

Avro是為Hadoop的子項目，用于數據序列化的系統，提供了豐富的數據結構類型、快速可壓縮的二進制數據格式、存儲持續性數據的文件集、遠程調用的功能和簡單的動態語言集成功能。

HDFS是Hadoop項目的兩個核心之一，它是針對谷歌文件系統的開源實現。

HBase是一個提高可靠性、高性能、可伸縮、實時讀寫、分布式的列式數據庫，一般采用HDFS作為其底層數據存儲。

MapReduce是針對谷歌MapReduce的開源實現，用于大規模數據集的并行運算。

Zoookepper是針對谷歌Chubby的一個開源實現，是高效和可靠的協同工作系統，提供分布式鎖之類的基本服務，用于構建分布式應用，減輕分布式應用程序所承擔的協調任務。

Hive是一個基于Hadoop的數據倉庫工具，可以用于對Hadoop文件中的數據集進行數據整理、特殊查詢和分布存儲。

Pig是一種數據流語言和運行環境，適合于使用Hadoop和MapReducce平臺上查詢大型半結構化數據集。

Sqoop可以改進數據的互操作性，主要用來在Hadoop配合關系數據庫之間交換數據。

Chukwa是一個開源的、用于監控大型分布式系統的數據收集系統，可以將各種類型的數據收集成適合Hadoop處理的文件，并保存在HDFS中供Hadoop進行各種 MapReduce操作。

到此，相信大家對“大數據處理架構Hadoop習題有哪些”有了更深的了解，不妨來實際操作一番吧！這里是億速云網站，更多相關內容可以進入相關頻道進行查詢，關注我們，繼續學習！