您好,登錄后才能下訂單哦!
spark建立在抽象的RDD上,把不同處理的數據的需求轉化為RDD,然后對RDD進行一系列的算子運算,從而得到結果。
RDD是一個容錯的,并行的數據結構,可以將數據存儲到磁盤和內存中,并能控制數據分區,并提供了豐富的API來操作數據。
1:RDD的定義及五大特性剖析
RDD是分布式內存的一個抽象概念,是一種高度受限的共享內存模型,即RDD時只讀的記錄分區的集合,能跨集群所有節點并行計算,是一種基于工作集的抽象模型。
(1)分區列表
(2)每一個分區都有一個計算函數
(3)依賴于其它RDD的列表
(4)key-value數據類型的RDD分區器
(5)每一個分區都有一個優先位置列表
2:DataSet的定義及內部機制剖析
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。