中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

HDFS設計基礎與目標是什么

發布時間:2021-12-09 14:01:51 來源:億速云 閱讀:179 作者:小新 欄目:云計算

這篇文章給大家分享的是有關HDFS設計基礎與目標是什么的內容。小編覺得挺實用的,因此分享給大家做個參考,一起跟隨小編過來看看吧。

設計基礎:

(1)由于硬件錯誤是常態。因此需要冗余。

(2)流式數據訪問,即數據批量讀取,而非隨機讀取。hadoop擅長做的是數據分析而不是事務處理。

(3)大規模數據集

(4)簡單一致性模型。為了降低系統復雜度,對文件采取一次性寫多次讀的邏輯設計,即是文件一經寫入,關閉后,就再也不能修改。

(5)程序采用“數據就近”原則分配節點執行。

體系結構:

hdfs采用主從結構,Namenode屬于主端,Datanode屬于從端。

Namenode:

    1) 管理文件系統的命名空間。

    2) 記錄每個文件數據塊在Datanode上的位置和副本信息。

    3) 協調客戶端對文件的訪問。

    4) 記錄命名空間內的改動或者空間本身屬性的改動。

    5) Namenode使用事務日志記錄HDFS元數據的變化。使用映像文件存儲文件系統的命名空間,包括文件映射、文件屬性等。

從社會學的角度看,Namenode是HDFS的管理者,發揮管理、協調、操控的作用。

 Datanode:

    1) 負責所在物理節點的存儲管理。

    2) 一次寫入,多次讀取,不能修改。

    3) 文件由數據庫組成,一般情況下,數據塊的大小為64MB。

    4) 數據盡量散布到各個節點。

     從社會學的角度看,Datanode是HDFS的工作者,發揮著按照Namenode的命令干活,并且把干活的進展和問題反饋到Namenode的作用。

SecondaryNameNode:

    1) HA的一個解決方案。但不支持熱備。配置即可。

    2) 執行過程:從NameNode上下載元數據信息(fsimage,edits),然后把二者合并,生成新的fsimage,在本地保存,并將其推送到NameNode,同時重置NameNode的edits.

    3) 默認在安裝在NameNode節點上,但這樣...不安全!

可靠性:

(1)冗余副本策略

(2)機架策略

(3)心跳機制

(4)安全模式

(5)校驗和

(6)回收站

(7)元數據保護

(8)快照機制

感謝各位的閱讀!關于“HDFS設計基礎與目標是什么”這篇文章就分享到這里了,希望以上內容可以對大家有一定的幫助,讓大家可以學到更多知識,如果覺得文章不錯,可以把它分享出去讓更多的人看到吧!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

六枝特区| 西平县| 宜兰县| 辉县市| 邹平县| 龙游县| 花垣县| 原平市| 苍溪县| 通榆县| 闵行区| 蒙山县| 和田市| 海门市| 遂宁市| 伊通| 黄山市| 深圳市| 鄂温| 廊坊市| 阜阳市| 肇州县| 大丰市| 偃师市| 句容市| 古交市| 岳普湖县| 原平市| 时尚| 华亭县| 溆浦县| 壶关县| 墨竹工卡县| 东至县| 兴安盟| 富宁县| 上饶县| 同心县| 灵璧县| 荥经县| 江都市|