Hadoop Multiple Nodes Cluster
데이터 1 서버 설정
#ubuntu17.10 
sudo nano /etc/netplan/01-netcfg.yaml 
# This file describes the network interfaces available on your system
# For more information, see netplan(5).
# gateway4 
network:
  version: 2
  renderer: networkd
  ethernets:
    ens33:
      dhcp4: no
      dhcp6: no
      addresses: [192.168.72.101/24]
      gateway4: 192.168.72.2 
      nameservers:
          addresses: [114.114.114.114, 8.8.8.8]
sudo netplan apply
sudo nano /etc/hostname
# data1
data1
sudo nano /etc/hosts
127.0.0.1       localhost
127.0.1.1       ubuntu
# hosts
192.168.72.100  master
192.168.72.101  data1
192.168.72.102  data2
192.168.72.103  data3
  
  fs.default.name 
  hdfs://master:9000 
   
   
        yarn.nodemanager.aux-services 
        mapreduce_shuffle 
 
        yarn.nodemanager.aux-services.mapreduce.shuffle.class 
        org.apache.hadoop.mapred.ShuffleHandler 
 
    
  yarn.resourcemanager.resource-tracker.address 
  master:8025 
 
  yarn.resourcemanager.scheduler.address 
  master:8030 
 
  yarn.resourcemanager.address 
  master:8050 
 
    
 
        mapred.job.tracker 
        master:54311 
 
 
        dfs.replication 
        1 
 
        dfs.namenode.name.dir 
        file:/usr/local/hadoop/hadoop_data/hdfs/namenode 
 
 
VM 복제
sudo nano /etc/hostname
sudo nano /etc/netplan/*.yaml
sudo netplan apply
Master는 HDFS 디렉토리를 만들기 위해 Data1, data2, data3에 연결
# data1
ssh data1
# HDFS 
sudo rm -rf /usr/local/hadoop/hadoop_data/hdfs
# DataNode 
mkdir -p /usr/local/hadoop/hadoop_data/hdfs/datanode
# hduser
sudo chown  -R hduser:hduser /usr/local/hadoop
exit
# HDFS 
sudo rm -rf /usr/local/hadoop/hadoop_data/hdfs
# NameNode 
mkdir -p /usr/local/hadoop/hadoop_data/hdfs/namenode
# hduser
sudo chown  -R hduser:hduser /usr/local/hadoop
# Namenode HDFS 
hadoop namenode -format
Hadoop Multi Node Cluster 시작
# HDFS
start-dfs.sh
# YARN
start-yarn.sh
# 
start-all.sh
이 내용에 흥미가 있습니까?
현재 기사가 여러분의 문제를 해결하지 못하는 경우 AI 엔진은 머신러닝 분석(스마트 모델이 방금 만들어져 부정확한 경우가 있을 수 있음)을 통해 가장 유사한 기사를 추천합니다:
다양한 언어의 JSONJSON은 Javascript 표기법을 사용하여 데이터 구조를 레이아웃하는 데이터 형식입니다. 그러나 Javascript가 코드에서 이러한 구조를 나타낼 수 있는 유일한 언어는 아닙니다. 저는 일반적으로 '객체'{}...
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
CC BY-SA 2.5, CC BY-SA 3.0 및 CC BY-SA 4.0에 따라 라이센스가 부여됩니다.