AzureDataFactory 파이프라인 권장사항 – 재시도

Azure Data Factory 파이프라인 권장사항 – 재시도
https://blogs.msdn.microsoft.com/jpsql/2017/02/27/azure-data-factory-pipeline-retry/
MSDN 사이트가 삭제되면서 2017년 2월 투고 기사도 사라졌다.옆에 저장된 과거의 기사를 다시 투고하다.

Azure Data Factory란 무엇입니까?


SQL Server는 데이터를 마이그레이션할 때 SQL Server 통합 서비스(SSIS)를 사용하여 CSV 파일을 SQL Server로 복사하거나 데이터를 가공한 후에 마이그레이션할 수 있습니다.
Azure의 클라우드에서 이루어진 것이 Azure 데이터 공장입니다.
Azure Data Factory를 이용하여 로컬 CSV 파일이나 SQL Server의 데이터를 Azure SQL Database 또는 Blob Storage로 복사하거나 데이터 변경 후 마이그레이션할 수 있습니다.
지원되는 마이그레이션 소스 데이터는 로컬 파일, On-Premise SQL Server 및 Oracle 데이터, Azure의 SQL 데이터베이스와 Data Lake Store 데이터, 기타 Salesforce 등을 포함하며, 이러한 데이터를 Azure의 SQL 데이터베이스, BLOB Storage와 Document DB 등으로 변환하여 저장할 수 있습니다.자세한 내용은 클라우드 데이터 통합 서비스 Azure Data Factory 서비스 개요를 참조하십시오.

- Azure Data Factory에서 수행되는 프로세스는?


Azure Data Factory에서 수행되는 작업을 활동이라고 하는데 주로 두 가지 유형이 있습니다.하나는 데이터를 복제하는 복제 활동이다.다른 하나는 데이터를 변환하거나 분석하는 데이터 변환 활동이다.
이러한 활동은 Azure Data Factory에 설정된 JSON 형식의 파이프라인에서 지정할 수 있습니다.
  • 복제 활동 참조 정보를 사용하여 활동 이동 데이터 복제
    https://docs.microsoft.com/ja-jp/azure/data-factory/v1/data-factory-data-movement-activities
  • 데이터 변환 활동 참고 정보 사용 Azure Data Factory 변환 데이터
    https://docs.microsoft.com/ja-jp/azure/data-factory/v1/data-factory-data-transformation-activities
  • - 제안된 파이프라인 설정 - 재시도


    Azure Data Factory는 Azure 클라우드의 웹 서비스로 고가용성을 실현하는 서비스이지만 데이터 센터 측의 서버 고장으로 인한 고장(서버 전환), 네트워크 문제로 인한 순간 차단 등이다.
    따라서 상기 의외의 문제를 피하기 위해 파이프라인의activities 프로젝트의 정책에서 재시도를 설정하십시오.자세한 내용은 Azure Data Factory의 파이프라인 및 활동을 참조하십시오.재시도 설정의 예는 다음과 같습니다.
    (예) 슬라이스 (파이프라인에서 지정된 간격) 의 데이터 처리가 실패했을 때 먼저 세 번 다시 시도하십시오 ("retry": 3). 실패하면 25분 동안 기다리십시오 (
    "longRetryInterval": "00:25:00"), 두 번째 재시도("longRetry": 2)는 세 번째 재시도의 설정 예시를 실행합니다.
    "policy": {
    "timeout": "01:00:00",
    "delay": "00:07:00",
    "concurrency": 1,
    "executionPriorityOrder": "NewestFirst",
    "retry": 3,
    "longRetry": 2,
    "longRetryInterval": "00:25:00"
    },

    다음은 Azure Data Factory를 소개하고 파이프라인의 재시험 설정을 소개합니다.도움이 됐으면 좋겠어요.

    좋은 웹페이지 즐겨찾기