Hadoop Multiple Nodes Cluster
데이터 1 서버 설정
#ubuntu17.10
sudo nano /etc/netplan/01-netcfg.yaml
01-netcfg.yaml # This file describes the network interfaces available on your system
# For more information, see netplan(5).
# gateway4
network:
version: 2
renderer: networkd
ethernets:
ens33:
dhcp4: no
dhcp6: no
addresses: [192.168.72.101/24]
gateway4: 192.168.72.2
nameservers:
addresses: [114.114.114.114, 8.8.8.8]
sudo netplan apply
sudo nano /etc/hostname
# data1
data1
sudo nano /etc/hosts
127.0.0.1 localhost
127.0.1.1 ubuntu
# hosts
192.168.72.100 master
192.168.72.101 data1
192.168.72.102 data2
192.168.72.103 data3
fs.default.name
hdfs://master:9000
yarn.nodemanager.aux-services
mapreduce_shuffle
yarn.nodemanager.aux-services.mapreduce.shuffle.class
org.apache.hadoop.mapred.ShuffleHandler
yarn.resourcemanager.resource-tracker.address
master:8025
yarn.resourcemanager.scheduler.address
master:8030
yarn.resourcemanager.address
master:8050
mapred.job.tracker
master:54311
dfs.replication
1
dfs.namenode.name.dir
file:/usr/local/hadoop/hadoop_data/hdfs/namenode
VM 복제
sudo nano /etc/hostname
sudo nano /etc/netplan/*.yaml
sudo netplan apply
Master는 HDFS 디렉토리를 만들기 위해 Data1, data2, data3에 연결
# data1
ssh data1
# HDFS
sudo rm -rf /usr/local/hadoop/hadoop_data/hdfs
# DataNode
mkdir -p /usr/local/hadoop/hadoop_data/hdfs/datanode
# hduser
sudo chown -R hduser:hduser /usr/local/hadoop
exit
# HDFS
sudo rm -rf /usr/local/hadoop/hadoop_data/hdfs
# NameNode
mkdir -p /usr/local/hadoop/hadoop_data/hdfs/namenode
# hduser
sudo chown -R hduser:hduser /usr/local/hadoop
# Namenode HDFS
hadoop namenode -format
Hadoop Multi Node Cluster 시작
# HDFS
start-dfs.sh
# YARN
start-yarn.sh
#
start-all.sh
이 내용에 흥미가 있습니까?
현재 기사가 여러분의 문제를 해결하지 못하는 경우 AI 엔진은 머신러닝 분석(스마트 모델이 방금 만들어져 부정확한 경우가 있을 수 있음)을 통해 가장 유사한 기사를 추천합니다:
다양한 언어의 JSONJSON은 Javascript 표기법을 사용하여 데이터 구조를 레이아웃하는 데이터 형식입니다. 그러나 Javascript가 코드에서 이러한 구조를 나타낼 수 있는 유일한 언어는 아닙니다. 저는 일반적으로 '객체'{}...
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
CC BY-SA 2.5, CC BY-SA 3.0 및 CC BY-SA 4.0에 따라 라이센스가 부여됩니다.