Hadoop 2.8 첫 번 째 사례 실행 wordcount

2101 단어 빅 데이터
wordcount 실행
  • 1. hadop 에서 MapReduce 경 로 를 보기
  • 2. word. txt 를 만 들 고 데이터 파일 생 성
  • 3. 파일 보기
  • 4. HDFS 디 렉 터 리 만 들 기
  • 5. 데이터 파일 word. txt 를 HDFS / work / data / input 디 렉 터 리 에 업로드
  • 6. 텍스트 로 파일 읽 기
  • 7. wordcount 실행 예
  • 8. 결과 보기
  • 1. hadop 에서 MapReduce 경 로 를 봅 니 다.
    [root@master mapreduce]# pwd
    /opt/hadoop/hadoop2.8/share/hadoop/mapreduce
    

    2. word. txt 를 만 들 고 데이터 파일 생 성
    touch word.txt
    echo "hello world" >> word.txt
    echo "hello hadoop" >> word.txt
    echo "hello hive" >> word.txt
    

    3. 파일 보기
    [root@master mapreduce]# ls
    hadoop-mapreduce-client-app-2.8.5.jar              hadoop-mapreduce-client-shuffle-2.8.5.jar
    hadoop-mapreduce-client-common-2.8.5.jar           hadoop-mapreduce-examples-2.8.5.jar
    hadoop-mapreduce-client-core-2.8.5.jar             jdiff
    hadoop-mapreduce-client-hs-2.8.5.jar               lib
    hadoop-mapreduce-client-hs-plugins-2.8.5.jar       lib-examples
    hadoop-mapreduce-client-jobclient-2.8.5.jar        sources
    hadoop-mapreduce-client-jobclient-2.8.5-tests.jar  word.txt
    
    

    4. HDFS 디 렉 터 리 만 들 기
    hdfs dfs -mkdir /work/data/input
    

    5. 데이터 파일 word. txt 를 HDFS / work / data / input 디 렉 터 리 에 업로드
    hdfs dfs -put ./word.txt /work/data/input
    

    6. 텍스트 로 파일 읽 기
    [root@master mapreduce]# hdfs dfs -text /work/data/input/word.txt
    hello world
    hello hadoop
    hello hive
    

    7. wordcount 예 실행
    [root@master mapreduce]# hadoop jar hadoop-mapreduce-examples-2.8.5.jar wordcount /work/data/input /work/data/output
    

    8. 결과 보기
    [root@master mapreduce]# hdfs dfs -ls /work/data/output
    Found 2 items
    -rw-r--r--   2 root supergroup          0 2019-03-01 19:36 /work/data/output/_SUCCESS
    -rw-r--r--   2 root supergroup         32 2019-03-01 19:36 /work/data/output/part-r-00000
    
    [root@master mapreduce]# hdfs dfs -text /work/data/output/part-r-00000
    hadoop	1
    hello	3
    hive	1
    world	1
    

    좋은 웹페이지 즐겨찾기