中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

怎么?使用Spark的cache機制觀察效率的提升

發布時間:2021-12-16 14:32:25 來源:億速云 閱讀:147 作者:iii 欄目:云計算

這篇文章主要講解了“怎么使用Spark的cache機制觀察效率的提升”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“怎么使用Spark的cache機制觀察效率的提升”吧!

使用Spark的cache機制觀察一下效率的提升

基于上面的內容,我們在執行一下以下語句:

怎么?使用Spark的cache機制觀察效率的提升

怎么?使用Spark的cache機制觀察效率的提升

發現同樣計算結果是15.

此時我們在進入Web控制臺:

怎么?使用Spark的cache機制觀察效率的提升

發現控制臺中清晰展示我們執行了兩次“count”操作。

現在我們把“sparks”這個變量執行一下“cache”操作:

怎么?使用Spark的cache機制觀察效率的提升

此時在執行count操作,查看Web控制臺:

怎么?使用Spark的cache機制觀察效率的提升

此時發現我們前后執行的三次count操作耗時分別是0.7s、0.3s、0.5s。

此時我們 第四次執行count操作,看一下Web控制臺的效果:

怎么?使用Spark的cache機制觀察效率的提升

控制臺上清晰的第四次操作僅僅花費了17ms,比前三次的操作速度大約快了30倍的樣子。這就是緩存帶來的巨大速度提升,而基于緩存是Spark的計算的核心之一!

第三步:構建Spark的IDE開發環境

Step 1:目前世界上Spark首選的InteIIiJ IDE開發工具是IDEA,我們下載InteIIiJ IDEA:

怎么?使用Spark的cache機制觀察效率的提升

這里下載是最新版本Version 13.1.4:

怎么?使用Spark的cache機制觀察效率的提升

關于版本的選擇,官方給出了如下選擇依據:

我們在這里選擇Linux系統下的”Community Edition FREE”這個版本,這能完全滿足我們任意復雜程度的Scala開發需求。

家林下載完成后保存在本地的如下位置:

怎么?使用Spark的cache機制觀察效率的提升

Step 2:安裝IDEA并配置IDEA系統環境變量

創建“/usr/local/idea”目錄:

怎么?使用Spark的cache機制觀察效率的提升

把我們下載的idea壓縮包解壓到該目錄下:

怎么?使用Spark的cache機制觀察效率的提升

安裝完成后,為了方便使用其bin目錄下的命令,我們把它配置在“~/.bashrc”:

感謝各位的閱讀,以上就是“怎么使用Spark的cache機制觀察效率的提升”的內容了,經過本文的學習后,相信大家對怎么使用Spark的cache機制觀察效率的提升這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關知識點的文章,歡迎關注!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

右玉县| 舒兰市| 冷水江市| 平顺县| 石首市| 石狮市| 柳州市| 长泰县| 乌拉特前旗| 迁西县| 仲巴县| 上蔡县| 青河县| 常州市| 尉氏县| 旬邑县| 桐柏县| 嘉鱼县| 色达县| 永年县| 闵行区| 安化县| 汉川市| 铜陵市| 泌阳县| 东台市| 汾西县| 勐海县| 廉江市| 阿拉善盟| 贵溪市| 大连市| 察隅县| 长葛市| 互助| 噶尔县| 遂昌县| 金塔县| 敦化市| 山东| 红安县|