中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

運行Spark例子程序是怎樣實現的

發布時間:2021-12-16 18:44:35 來源:億速云 閱讀:141 作者:柒染 欄目:云計算

運行Spark例子程序是怎樣實現的,針對這個問題,這篇文章詳細介紹了相對應的分析和解答,希望可以幫助更多想解決這個問題的小伙伴找到更簡單易行的方法。

一、安裝和配置

下載并解壓Spark到指定目錄,如果沒有安裝JDK、Scala,需要先下載JDK、Scala到指定目錄,并設置SPKARK_HOME(JAVA_HOME、SCALA_HOME).

二、啟動Spark或Spark集群

如果只是在單節點上運行Spark,無需啟動Spark,直接按『三、運行例子程序』運行即可。 如若需要在集群上運行Spark例子程序,需要先啟動Spark集群。將已經可以互相無密碼登陸的從節點名(或IP地址)加入到主節點的conf/slaves文件中,再將配置好的主節點的Spark的整個目錄拷貝到其他所有從節點。在直接運行啟動集群腳本:

./start-all.sh
# 關閉集群    
./stop-all.sh

二、運行例子程序

1. 在單節點上運行

在單個節點上運行例子無需啟動集群:

./bin/run-example SparkPi 10
./bin/run-example graphx.LiveJournalPageRank follower.txt --numEPart=2
# 運行Python的例子程序
./bin/spark-submit examples/src/main/python/pi.py 10
./bin/spark-submit examples/src/main/python/PageRank.py follower.txt 10
2. 提交到集群上運行

./bin/spark-submit --master spark://A281:7077 --class org.apache.spark.examples.graphx.LiveJournalPageRank lib/spark-examples-1.6.0-hadoop2.6.0.jar followers.txt --numEPart=2

關于運行Spark例子程序是怎樣實現的問題的解答就分享到這里了,希望以上內容可以對大家有一定的幫助,如果你還有很多疑惑沒有解開,可以關注億速云行業資訊頻道了解更多相關知識。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

南澳县| 民乐县| 奈曼旗| 敖汉旗| 新河县| 南部县| 辉县市| 嘉义县| 博客| 临清市| 桃园县| 西充县| 平陆县| 遵义县| 马边| 三亚市| 凤凰县| 报价| 化德县| 鹿邑县| 德保县| 建水县| 曲水县| 姚安县| 海丰县| 南漳县| 辰溪县| 余姚市| 桐庐县| 陵水| 花莲市| 余庆县| 阳新县| 肥西县| 微山县| 乌拉特中旗| 涡阳县| 辽阳县| 潮州市| 苏州市| 河东区|