CloudFront에서 S3로 출력된 로그를 Athena에서 구문 분석
6453 단어 AthenaSQLCloudFrontS3AWS
0. 소개
요전날, 이쪽의 기사의 대응을 실시했습니다만,
S3 에 출력된 로그를 해석하는 좋은 방법이 없는가라고 조사했는데, Athena 로 해석하는 것이 좋은 것 같아서 시험해 보았습니다.
기본적으로 다음 페이지의 단계에 따라 진행했습니다.
그 밖에 이쪽의 기사등도 참고로 했습니다.
이런 분들이 노하우를 공유 할 수있는 것은 정말 고마워요 ♪
감사!! 🙇♂️
1. S3 로그 파일의 데이터를 Athena에서 테이블을 만들고 삽입합니다.
CREATE EXTERNAL TABLE IF NOT EXISTS default.cloudfront_logs (
`date` DATE,
time STRING,
location STRING,
bytes BIGINT,
requestip STRING,
method STRING,
host STRING,
uri STRING,
status INT,
referrer STRING,
useragent STRING,
querystring STRING,
cookie STRING,
resulttype STRING,
requestid STRING,
hostheader STRING,
requestprotocol STRING,
requestbytes BIGINT,
timetaken FLOAT,
xforwardedfor STRING,
sslprotocol STRING,
sslcipher STRING,
responseresulttype STRING,
httpversion STRING,
filestatus STRING,
encryptedfields INT
) ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' LOCATION 's3://[S3 のバケット名]/[CloudFront の Log Prefix]/' TBLPROPERTIES ( 'skip.header.line.count'='2' )
2. 작성한 Athena 테이블에 쿼리를 실행하여 필요한 데이터를 추출합니다.
SELECT * FROM default.cloudfront_logs
WHERE date > date '[日付(YYYY-MM-DD)]'
AND uri = '[URL パス]'
AND requestip = '[IP アドレス]'
99. 하마리 포인트
XX. 요약
CloudFront의 도입으로 운영 및 관리 방식도 달라지기 때문에 정직한 불안도 있습니다만, 이러한 서비스가 제대로 준비되어 있는 것이 AWS의 강점이라고 생각합니다.
사실, CloudWatch Logs에 출력되면 기쁜 생각도 들지만 ..., 데이터량이 너무 많으면 비용량 낫고, 이 방법이 좋은 떨어뜨릴 곳일지도 모르겠네요.
뭔가 도움이되면 기쁩니다!
그럼♪
Reference
이 문제에 관하여(CloudFront에서 S3로 출력된 로그를 Athena에서 구문 분석), 우리는 이곳에서 더 많은 자료를 발견하고 링크를 클릭하여 보았다
https://qiita.com/kusokamayarou/items/9f9a9319fda400e4fb7c
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
우수한 개발자 콘텐츠 발견에 전념
(Collection and Share based on the CC Protocol.)
Reference
이 문제에 관하여(CloudFront에서 S3로 출력된 로그를 Athena에서 구문 분석), 우리는 이곳에서 더 많은 자료를 발견하고 링크를 클릭하여 보았다 https://qiita.com/kusokamayarou/items/9f9a9319fda400e4fb7c텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
우수한 개발자 콘텐츠 발견에 전념 (Collection and Share based on the CC Protocol.)