DataDog Log Management란?

DataDog에서 다양한 로그를 관리하는 서비스

2017/12 시점에서는 β판이었습니다만, 2018/3에 generally available가 되었습니다.

무엇을 할 수 있는가?

쉽게 로그 관리가 가능하고 문제 해결이 편해지는 도구입니다.
인프라 메트릭 대시 보드에서 관련 로그로 이동할 수 있습니다.

기타 일반적인 용도로는

다중 노드 로그 집계

로그 필터링 및 태그 관리

시각화 및 경고 알림

로그 처리 파이프 라인 구축

등 수 있습니다.

사용해보기

Install 방법은 여기에 쓰여있다. 그래서 할애.

Log Management는 DataDog Agent의 version 6.0 이후의 기능이므로, 5계 이전의 경우는 upgrade할 필요가 있습니다.

설정 내용

1. 로그 에이전트를 켭니다.

/etc/datadog-agent/datadog.yaml

logs_enabled: true

2. nginx 용 conf에 다음을 씁니다. (이 예제는 nginx 로그 출력)

/etc/datadog-agent/conf.d/nginx.d/conf.yaml

logs:

    # - type : (mandatory) type of log input source (tcp / udp / file)
    #   port / path : (mandatory) Set port if type is tcp or udp. Set path if type is file
    #   service : (mandatory) name of the service owning the log
    #   source : (mandatory) attribute that defines which integration is sending the logs
    #   sourcecategory : (optional) Multiple value attribute. Can be used to refine the source attribtue
    #   tags: (optional) add tags to each logs collected

  - type: file
    path: /var/log/nginx/access.log
    service: nginx
    source: nginx
    sourcecategory: http_web_access

  - type: file
    path: /var/log/nginx/error.log
    service: nginx
    source: nginx
    sourcecategory: http_web_access

3. datadog를 restart합니다.

datadog-agent stop
datadog-agent start

※ datadog의 version6.0 이후는 SysVinit가 지원되지 않기 때문에 AmazonLinux (ver1) 등 init.d를 사용하는 OS에서는 명령이 5 계에서 조금 바뀝니다.

출력 내용

상기에서 nginx용의 설정은 완료.
이것으로 인프라 대시 보드의 신경이 쓰이는 포인트로부터 대응하는 로그까지 한번 날아!!

2018.3.27 시점에서 대응하는 서비스

GCP와 Azure는 여전히 같다. 앞으로 점점 늘어날 것 같다.

수수료

로그의 이벤트 수와 보존 기간에 따라 요금이 바뀝니다

예를 들어, 10000 이벤트/분이 정상적으로 오는 로그를 7 일 동안 유지하면

( 10000 Events/min * 60 min * 24 hour * 30 day ) * 1.27 / per 100 Million Events = $548 / month

이 정도이면 월 5~6만입니다만, 1종류의 로그로 이 요금이므로, 보관 기간을 늘리거나, 복수 종류의 로그를 보관 유지하거나, 대규모에 액세스가 늘면 비용 가 단번에 부풀어 오릅니다.

아무래도 비용을 억제하고 싶다면, 에러 로그만 Log Management로 관리하는 등으로 대책은 취할 것.

주의사항

version 6계는 5계의 코어 부분을 크게 재기록하고 있어, 명령 실행 방법 이외에도, conf 파일 관리 장소 등, 일부 호환성이 없습니다. example의 yml 파일의 내용에도 변경이 있기 때문에, example 파일을 코드 관리하고 있는 경우는 맞추어 수정하는 것이 요시.

version6.0 이후는 커맨드도 조금 바뀌고 있기 때문에, 운용 스크립트등을 만들고 있는 경우는 version up시의 영향은 크다고 합니다.

감상

인프라 메트릭스의 대시 보드에서 점프가 오징어하는 느낌입니다.

DataDog APM과도 연계할 수 있는 것 같기 때문에, 보다 로그와 밀접하게 교제할 것 같습니다.