Ubuntu 에 Hadoop 2. x 4 Multi - node cluster 기본 설정 사용
Hadoop 의 노드 는 두 가지 로 나 뉘 는데 그것 이 바로 masters 와 slaves 이다.
masters 는 두 대의 기 계 를 분리 해 야 합 니 다: NameNode 와 ResourceManager,
slaves 는 DataNode 와 Node Manager 를 포함 하고 있 으 며, 문서 에 서 는 반드시 서로 배척 해 야 한다 고 말 하지 않 았 다.
다음은 YARN 의 구성 도 입 니 다. YARN 은 Hadoop 시스템 의 일부분 일 뿐 HDFS 가 포함 되 어 있 지 않 습 니 다.
HDFS 정보 참조:https://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/HdfsDesign.html
현재 hadop 을 설치 하고 기본 설정 을 합 니 다. 앞 에 64 bit 의 Hadoop 을 직접 컴 파일 했 기 때문에 지금 가 져 와 서 사용 할 수 있 습 니 다.
여러분 의 편 의 를 위해 공 개 된 gitlab 프로젝트 에 컴 파일 된 것 을 놓 았 습 니 다.https://gitlab.com/hadoop/learn
우선 가상 머 신 Ubuntu 12.04.4 server 를 준비 하고, host name: hd1, IP: 192.168.1.71
그리고 Ubuntu 12.04 에서 Hadoop 2.2.0 을 사용 하 는 사용자 권한 설정 을 참고 하 세 요.
상응하는 설정 을 하 다.그러나 hadop 의 설치 패 키 지 를 다운로드 하지 마 십시오. 컴 파일 된 64 bit 를 / usr / local 디 렉 터 리 에 복사 하면 됩 니 다. hadop 으로 이름 을 바 꿀 수 있 습 니 다.
그리고 Ubuntu 12.04 에서 Hadoop 2.2.0 2 를 사용 하여 single node server 를 설정 합 니 다.
환경 변 수 를 설정 하고 / usr / local / hadop / etc / hadop / hadop - env. sh 파일 을 수정 한 후 종료 후 hduser 로 로그 인 합 니 다.
아래 파일 을 수정 하 겠 다 는 글 이 있 습 니 다. 하지만 확실 하지 않 습 니 다. 먼저 여기에 기록 하고 수정 하지 않 아 도 됩 니 다. 만약 프로그램 이 hduser 사용자 신분 에서 실행 된다 면 이미 정확 한 JAVA 가 있 을 것 입 니 다.HOME 환경 변수 입 니 다.
Add JAVA_HOME to libexec/hadoop-config.sh at beginning of the file
hduser@solaiv[~]#vi /opt/hadoop-2.2.0/libexec/hadoop-config.sh
….
export JAVA_HOME=/usr/local/jdk1.6.0_18
….
/ usr / local / hadop / etc / hadop / hadop - env. sh 파일 에서
추천 설정 JAVAHOME, 이런 말 이 있어 요.
4. 567913. 제 환경 변 수 는 이미 정확하게 설정 되 었 고 모든 가상 컴퓨터 가 똑 같 기 때문에 저 는 여기 서 변경 할 필요 가 없다 고 생각 합 니 다.
hadop 에서 사용 할 임시 디 렉 터 리 만 들 기
# The only required environment variable is JAVA_HOME. All others are
# optional. When running a distributed configuration it is best to
# set JAVA_HOME in this file, so that it is correctly defined on
# remote nodes.
# The java implementation to use.
export JAVA_HOME=${JAVA_HOME}
나중에 각 server 를 만 들 고 이 VM 에서 복 제 됩 니 다.
이 내용에 흥미가 있습니까?
현재 기사가 여러분의 문제를 해결하지 못하는 경우 AI 엔진은 머신러닝 분석(스마트 모델이 방금 만들어져 부정확한 경우가 있을 수 있음)을 통해 가장 유사한 기사를 추천합니다:
다양한 언어의 JSONJSON은 Javascript 표기법을 사용하여 데이터 구조를 레이아웃하는 데이터 형식입니다. 그러나 Javascript가 코드에서 이러한 구조를 나타낼 수 있는 유일한 언어는 아닙니다. 저는 일반적으로 '객체'{}...
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
CC BY-SA 2.5, CC BY-SA 3.0 및 CC BY-SA 4.0에 따라 라이센스가 부여됩니다.