spark 설정
1. 홈 페이지 의 프로필 을 찾 아 홈 페이지 의 프로필 을 참고 하고 홈 페이지 에 들 어가 서 configure, 링크 를 찾 습 니 다.http://spark.apache.org/docs/latest/configuration.html 。
spark - env. xml
!JAVA_HOME=。JAVA 설정HOME, 환경 변수 가 JAVA 를 설정 하 더 라 도HOME, 여 기 는 한 번 더 설정 해 야 합 니 다. 그렇지 않 으 면 JAVA 를 찾 을 수 없다 는 것 을 알려 줍 니 다HOME。다음 설정 을 추천 합 니 다.
JAVA_HOME=/apps/jdk1.7_55
!SPARK_DAEMON_JAVA_OPTS=。zookeeper 의 standalone HA 설정 을 기반 으로 zookeeper 를 설정 하고 데 이 터 를 zoopeper 에 저장 해 야 합 니 다.
spark standalone 이 아 닌 HA 는 설정 하지 않 습 니 다.
spark standalone HA
SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=hadoop1:2181,hadoop2:2181,hadoop3:2181 -Dspark.deploy.zookeeper.dir=/spark"
2. spark - default. conf
!spark.master=。이 군집 의 spark. master 를 설정 합 니 다.
spark standalone HA 가 아 닙 니 다. 이 속성 이 설정 되 지 않 으 면 실제 시작 할 때 어느 노드 에서 시작 하면 어느 노드 가 master 를 시작 합 니까?
spark.master spark://hadoop2:7077
spark standalone HA
spark.master spark://hadoop2:7077,hadoop3:7077
Spark 설정 안내
이 내용에 흥미가 있습니까?
현재 기사가 여러분의 문제를 해결하지 못하는 경우 AI 엔진은 머신러닝 분석(스마트 모델이 방금 만들어져 부정확한 경우가 있을 수 있음)을 통해 가장 유사한 기사를 추천합니다:
다양한 언어의 JSONJSON은 Javascript 표기법을 사용하여 데이터 구조를 레이아웃하는 데이터 형식입니다. 그러나 Javascript가 코드에서 이러한 구조를 나타낼 수 있는 유일한 언어는 아닙니다. 저는 일반적으로 '객체'{}...
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
CC BY-SA 2.5, CC BY-SA 3.0 및 CC BY-SA 4.0에 따라 라이센스가 부여됩니다.