中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

spark-submit提交任務時報錯,Error initializing SparkContext

發布時間:2020-07-20 12:12:21 來源:網絡 閱讀:7981 作者:北斗狼52cto 欄目:大數據

16/03/04 00:21:09 WARN SparkContext: Using SPARK_MEM to set amount of memory to use per executor process is deprecated, please use spark.executor.memory instead.

16/03/04 00:21:09 ERROR SparkContext: Error initializing SparkContext.

org.apache.spark.SparkException: Could not parse Master URL: 'at'

at org.apache.spark.SparkContext$.org$apache$spark$SparkContext$$createTaskScheduler(SparkContext.scala:2554)

at org.apache.spark.SparkContext.<init>(SparkContext.scala:489)

at com.bigdata.deal.scala.DomainLib$.main(DomainLib.scala:22)

at com.bigdata.deal.scala.DomainLib.main(DomainLib.scala)

at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)

at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)

at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)

at java.lang.reflect.Method.invoke(Method.java:606)

at org.apache.spark.deploy.SparkSubmit$.org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:664)

at org.apache.spark.deploy.SparkSubmit$.doRunMain$1(SparkSubmit.scala:169)

at org.apache.spark.deploy.SparkSubmit$.submit(SparkSubmit.scala:192)

at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:111)

at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala)


配置conf時,務必要有 sparkHome  master地址

注意在spark-env.sh中要配置這些,就可以了

[root@mini-cp1 spark-1.4.0-bin-hadoop2.6]# cat conf/spark-env.sh

#!/usr/bin/env bash


SPARK_MASTER_IP=mini-cp1

#必須導入JAVA根目錄路徑

export JAVA_HOME=/usr/local/jdk1.7.0_65

export HADOOP_HOME=/usr/local/hadoop-2.6.0



#export SCALA_HOME=/opt/scala

export SPARK_WORKER_MEMORY=3g

export HADOOP_CONF_DIR=/usr/local/hadoop-2.6.0/etc/hadoop

#SPARK_MEM=${SPARK_MEM:-1g}

export SPARK_MEM=3g

export HADOOP_HOME=/usr/local/hadoop-2.6.0

export HADOOP_COMMON_LIB_NATIVE_DIR=/usr/local/hadoop-2.6.0/lib/native

export HADOOP_OPTS="-Djava.library.path=/usr/local/hadoop-2.6.0/lib"




向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

滨海县| 金山区| 丰镇市| 英吉沙县| 阿克| 枣庄市| 吉木乃县| 海口市| 两当县| 望奎县| 梧州市| 视频| 齐齐哈尔市| 浮山县| 菏泽市| 崇仁县| 桃江县| 仙桃市| 青神县| 荆州市| 辽源市| 苏尼特左旗| 涞源县| 石屏县| 颍上县| 阿勒泰市| 古丈县| 朔州市| 札达县| 芜湖市| 碌曲县| 平湖市| 松滋市| 得荣县| 通河县| 汕头市| 南充市| 甘泉县| 仪征市| 孝感市| 永兴县|