spark 설정

spark 설정 파일 을 어떻게 설정 해 야 합 니까?
1. 홈 페이지 의 프로필 을 찾 아 홈 페이지 의 프로필 을 참고 하고 홈 페이지 에 들 어가 서 configure, 링크 를 찾 습 니 다.http://spark.apache.org/docs/latest/configuration.html 。
spark - env. xml
!JAVA_HOME=。JAVA 설정HOME, 환경 변수 가 JAVA 를 설정 하 더 라 도HOME, 여 기 는 한 번 더 설정 해 야 합 니 다. 그렇지 않 으 면 JAVA 를 찾 을 수 없다 는 것 을 알려 줍 니 다HOME。다음 설정 을 추천 합 니 다.
JAVA_HOME=/apps/jdk1.7_55

!SPARK_DAEMON_JAVA_OPTS=。zookeeper 의 standalone HA 설정 을 기반 으로 zookeeper 를 설정 하고 데 이 터 를 zoopeper 에 저장 해 야 합 니 다.
spark standalone 이 아 닌 HA 는 설정 하지 않 습 니 다.
spark standalone HA
SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=hadoop1:2181,hadoop2:2181,hadoop3:2181 -Dspark.deploy.zookeeper.dir=/spark"

2. spark - default. conf
!spark.master=。이 군집 의 spark. master 를 설정 합 니 다.
spark standalone HA 가 아 닙 니 다. 이 속성 이 설정 되 지 않 으 면 실제 시작 할 때 어느 노드 에서 시작 하면 어느 노드 가 master 를 시작 합 니까?
spark.master spark://hadoop2:7077

spark standalone HA
spark.master spark://hadoop2:7077,hadoop3:7077

Spark 설정 안내

좋은 웹페이지 즐겨찾기