스파크 의문2의 스파크를 잃어버렸는데 excutor가 회복될까요?
881 단어 spark
Spark 의문2 spark 잃어버리면 excutor 복구되나요 Lost executor
hadoop@Master:~/cloud/testByXubo/spark/GRCH38/test2$ ./cluster.sh
fq0.count:45850077
Method 3=> Length:321202 sum3:3.209457928E9 time:236360ms
[Stage 5:=============================> (13 + 12) / 25]16/04/17 15:11:17 ERROR TaskSchedulerImpl: Lost executor 2 on 219.219.220.149: Executor heartbeat timed out after 144594 ms
[Stage 5:=============================> (2 + 2) / 4]16/04/17 15:16:42 ERROR TaskSchedulerImpl: Lost executor 5 on 219.219.220.233: remote Rpc client disassociated
16/04/17 15:16:43 ERROR TaskSchedulerImpl: Lost executor 3 on 219.219.220.131: remote Rpc client disassociated
이 내용에 흥미가 있습니까?
현재 기사가 여러분의 문제를 해결하지 못하는 경우 AI 엔진은 머신러닝 분석(스마트 모델이 방금 만들어져 부정확한 경우가 있을 수 있음)을 통해 가장 유사한 기사를 추천합니다:
Spark 팁: 컴퓨팅 집약적인 작업을 위해 병합 후 셔플 파티션 비활성화작은 입력에서 UDAF(사용자 정의 집계 함수) 내에서 컴퓨팅 집약적인 작업을 수행할 때 spark.sql.adaptive.coalescePartitions.enabled를 false로 설정합니다. Apache Sp...
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
CC BY-SA 2.5, CC BY-SA 3.0 및 CC BY-SA 4.0에 따라 라이센스가 부여됩니다.