hadoop 위조 분포식 운행 사례 (3) - 기타 관련 설정

1825 단어

1. 히스토리 서버 구성


1. mapred-site를 설정합니다.xml


mapreduce.jobhistory.address
hadoop101:10020


    mapreduce.jobhistory.webapp.address
    hadoop101:19888


2. 시작 히스토리 서버 파일 디렉토리 보기:

[root@hadoop101 hadoop-2.7.2]# ls sbin/ |grep mr
mr-jobhistory-daemon.sh

3. 히스토리 서버 시작

sbin/mr-jobhistory-daemon.sh start historyserver

4. 히스토리 서버가 시작되었는지 확인

jps

5. jobhistory 보기


http://192.168.1.101:19888/jobhistory

2. 로그 집합 설정


1. yarn-site를 설정합니다.xml



yarn.log-aggregation-enable
true



yarn.log-aggregation.retain-seconds
604800


2. nodemanager,resourcemanager,historymanager 닫기

sbin/yarn-daemon.sh stop resourcemanager
sbin/yarn-daemon.sh stop nodemanager
sbin/mr-jobhistory-daemon.sh stop historyserver

3. nodemanager,resourcemanager,historymanager 시작

sbin/yarn-daemon.sh start resourcemanager
sbin/yarn-daemon.sh start nodemanager
sbin/mr-jobhistory-daemon.sh start historyserver

4. hdfs에 이미 존재하는hdfs 파일 삭제

bin/hdfs dfs -rm -R /user/honey/mapreduce/wordcount/output

5. wordcount 프로그램 실행

hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.2.jar wordcount /user/honey/mapreduce/wordcount/input /user/honey/mapreduce/wordcount/output

6. 로그 보기


http://192.168.1.101:19888/jobhistory

좋은 웹페이지 즐겨찾기