Tech Log 🛠️

모니터링과 관찰 가능성

모니터링은 시스템이 제대로 동작하는 지 확인하기 위해 로그 지표 추적을 수집하고 분석한다.

관찰가능성은 시스템이 빠르게 동작하지 않는 이유를 알 수 있다.

관찰 가능성이 모니터링 포괄적인 의미이다.

AWS 관찰가능성 3가지 필라(phillar) - 로그, 지표, 추적

모니터링에서도 가장 중요한 요소이다.

클라우드 워치에서는 3가지 필라를 단일 플랫폼에서 확인가능할 수 있으며, 전체 스택을 모니터링 하고 경보 로그 및 이벤트 데이터를 사용하여 자동화된 조치를 취하고 평균해결시간(MTTR) 단축할 수 있다.

AWS 관찰가능성을 AWS 네이티브 서비스 혹은 오픈소스 관리형 서비스에서 확인 할 수 있다.

클라우드 워치 동작 방식

클라우드 워치의 동작 방식은 단계 별로 구분된다.

1. 수집 모니터링 행동 분석

수집은 로그 지표 이벤트 형태로 모니터링 및 운영 데이터 수집

2. 모니터링 자동하된 데시보드로 시각화

AWS리소스 어플리케이션 및 서비스를 통합적으로 볼 수 있다.

3. 행동에서는 지정한 지표의 임계값을 기반으로 경보를 생성하거나 기계 학습 알고리즘을 기반으로 비정상 적인 지표 동작을 감시할 수 있다. 트리거로 자동동작 , 오토스케일링 -> MTTR 단축

4. 분석에서는 심층적으로 분석하여 성능 개선한다.

아마존 클라우드 워치는 기본적으로 지표 저장소이다.

정렬된 시계열 집합으로 검색 가능하며, 네임 스페이스 별로 격리를 제공하기 때문에 서로 격리되어있어서 다른 어플의 지표가 실수로 동일한 통계로 집계되지는 않는다.

더 짧은 기간으로 게시된 데이터 포인트는 장기 보관을 위해 집계

ex) 1분 세분화 데이터를 표준 분해능으로 저장 , 1분 미안은 1초 세분화 데이터를 고분해능으로 저장

-> AWS 서비스에 의해 생성되는 지표는 기본적으로 표준 분해능 (1분 미만은 고분해능 사용자 지표)

고분해능은 어플리케이션의 단기활동을 보다 즉각적으로 관찰 가능

백분위 수는 지표 데이터의 분포를 정확하게 이해하는데 도움

로그 스트림

로그 이벤트의 동일한 소스를 묶어서 로그 스트림을 이룬다. 로그 스트림 수에는 제한이 없다.

로그 저장 비용이 불필요하게 발생할 수 있기 때문에 로그 그룹의 성격에 맞게 적절한 로그 보존 설정이 필요하다.

에이전트는 에이전트 , 지표 , 로그 , 추적이 있는 JSON 파일을 통해 확인 가능하다.

다양한 운영체제에 설치 가능, 운영 체제 전반에 걸쳐 내부 시스템 수준의 지표 수집 가능하며,

AWS 가 관리하지 않는 서버 뿐만 아니라 하이브리드 환경의 서버도 포함한다.

statsD collected 프로토콜을 사용하여 어플리케이션 또는 사용자 지정 지표를 검색할 수 있다.

지표 섹션은 클라우드 워치에서 게시할 사용자 지정 지표를 지정할 수 있다.

인사이트

클라우드 워치 로그 인사이트는 통합된 인터렉티브 로그 분석, 로그데이터를 대화식으로 검색하고 분석할 수 있다.

잠재적인 원인을 식별하고 배포된 수정사항을 확인할 수 있다.

컨트리뷰터 인사이트

로그데이터 분석 기고자 데이터를 표시하는 시계열 생성

상위 n개의 기여자 총 고유 기여자 사용량 데이터 

잘못된 호스트 찾기 , 사용량이 가장 많은 네트워크 식별 , 가장 많은 오류를 내는 url 탐지가 가능하다.

컨테이너 인사이트

컨테이너화 된 어플리에이션 및 마이크로 서비스의 지표 및 로그를 수집하고 요약 가능 ECS , EKS, EC2 환경에서도 사용 가능

Fargate 리소스에서도 데이터 수집 가능

CPU, 메모리 , 디스크, 네트워크 같은 많은 리소스에 대한 지표를 자동으로 수집

컨테이너 재시작 오류 같은 진단 정보를 재공하여 오류를 빨리 해결할 수 있도록 도와줌

임베디드 지표 형식을 사용하여 데이터를 성능 로그 이벤트로 수집

성능 로그 이벤트는 카니널리티가 높은 데이터를 저장할 수 있게 하는 구조화 된 json을 스키마를 사용하는 항목

firelens는 fluent bit 및 fl vented와 함께 동작 

람다 인사이트

서버리스 어플리케이션에 대한 모니터링 및 문제 해결 솔루션

Cpu, 시간, 메모리, 디스크 성능 이벤트를 수집

사용자 지정 지표를 자동으로 생성

콜트 스타트 및 람다 작업자 종료와 같은진단 정보를수집 집계 요약 , 람다 관련문제를 격리하고 신속하게 해결할 수 있도록 도와준다.

시스템 수준 지표를 수집, 람다 함수가 호출될 때마다 단일 성능 로그 이벤트를 내보냄

클라우드 워치는 로그 이벤트에서 지표를 추출하여서 람다 인사이츠 네임스페이스에 함수 이름별로 저장

람다 인사이트에서는 다중 함수 개요를 보거나 단일 함수에 집중할 수 있다.