Hadoop 3.1.2 (Linux 버 전) 환경 구축 기록 2 - Pseudo - Distributed (의사 분산 모드)

지난 절 에서 우 리 는 단일 컴퓨터 모델 을 알 게 되 었 습 니 다. 이 절 에서 두 번 째 모델 의 의사 분포 식 모델 을 설명 할 것 입 니 다. 이런 모델 은 단일 컴퓨터 모델 에 비해 메모리 사용 상황 을 검사 하고 hdfs 입 출력 과 다른 데 몬 의 상호작용 을 증가 합 니 다.
    위 분포 식 설정 은 주로 etc / hadop 의 설정 파일 입 니 다. 각각 core - site. xml, mapred - site. xml, hdfs - site. xml 입 니 다.
core - site. xml (namenode 설정)

    
        fs.defaultFS
        hdfs://localhost:9000
    

hdfs - site. xml (datanode 설정)

    
        dfs.replication
        1
    

mapred - site. xml (jobtracker / tasktracker 설정)

    
        mapred.job.tracker
        localhost:9001
    

    상기 설정 을 완성 한 후 ssh 의 설치 상황 을 검사 하고 비밀 로그 인 면제 방식 으로 설정 하 며 구체 적 인 실현 방식 으로 설정 해 야 합 니 다.
  $ ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
  $ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
  $ chmod 0600 ~/.ssh/authorized_keys

    상기 절 차 를 마 친 후에 먼저 파일 시스템 을 포맷 하고 구체 적 인 실현 방식 을 해 야 합 니 다.
$ bin/hdfs namenode -format

    위 절 차 를 마 친 후 hadop 을 시작 해 야 합 니 다. 이 때 는 sbin 디 렉 터 리 에 있 는 sh 스 크 립 트 를 사용 해 야 합 니 다. 루트 계 정 을 사용 하면 사용 하기 전에 사용 해 야 할 스 크 립 트 를 사용 하기 전에 다음 설정 을 추가 해 야 합 니 다.
HDFS_DATANODE_USER=root HADOOP_SECURE_DN_USER=hdfs HDFS_NAMENODE_USER=root HDFS_SECONDARYNAMENODE_USER=root
예 를 들 어 start - dfs. sh 스 크 립 트 를 사용 하려 면 상기 내용 을 스 크 립 트 에 붙 여 넣 은 다음 에 스 크 립 트 를 직접 실행 할 수 있 습 니 다.
스 크 립 트 를 실행 한 후 시작 하 는 데 몬 을 jps 명령 으로 볼 수 있 습 니 다.

좋은 웹페이지 즐겨찾기