hadoop 스케줄러에서 "Error opening jobjar"오류가 발생했습니다.

1571 단어 hadoop
팁 질문:
Exception in thread "main" java.io.IOException: Error opening job jar: /home/deploy/recsys/workspace/ouyangyewei/recommender-dm-1.0-SNAPSHOT-lib
        at org.apache.hadoop.util.RunJar.main(RunJar.java:90)
Caused by: java.util.zip.ZipException: error in opening zip file
        at java.util.zip.ZipFile.open(Native Method)
        at java.util.zip.ZipFile.<init>(ZipFile.java:127)
        at java.util.jar.JarFile.<init>(JarFile.java:135)
        at java.util.jar.JarFile.<init>(JarFile.java:72)
        at org.apache.hadoop.util.RunJar.main(RunJar.java:88)
-bash-3.2$ hadoop fs -ls /home/deploy/recsys/workspace/ouyangyewei
Warning: $HADOOP_HOME is deprecated.

스케줄링 명령:
hadoop jar recommender-dm_fat.jar com.yhd.ml.statistics.category.GenCategoryUserProfileJob --userProfileTable full_user_profile --categoryId 957370 --categoryFile /user/hive/warehouse/category/part-m-00000 --output /home/deploy/recsys/workspace/ouyangyewei/output

일반적으로 이 오류의 원인은 두 가지가 있다.
1. 해당 경로에서 이jar 패키지가 있는지 확인
2.jar 패키지의 경로가 정확한지 여부
3.jar가방에 문제가 있음
원인은 다음과 같다. 해당 폴더에 이jar 패키지가 없습니다. 저는hadoopfs-ls 폴더 경로 명령으로 이jar 패키지가 있는 것을 발견했지만 ll 명령으로 이jar 패키지를 보지 못했습니다.
"ll"명령과 "hadoop fs -ls 경로"명령의 차이점:
1.ll 명령: 서버 로컬의 모든 파일 보기
2. hadoop fs -ls 경로 명령: HDFS의 모든 파일 보기
hadoop 스케줄링 명령은 서버 로컬jar 패키지입니다.

좋은 웹페이지 즐겨찾기