옵저버빌러티(Observability) 확보로 서버리스 마이크로서비스 들여다보기 - 김형일 AWS 솔루션즈 아키텍트 :: AWS Summit Seoul 2021

© 2021, Amazon Web Services, Inc. or its affiliates. All rights reserved.
K O R E A | M A Y 1 1 - 1 2 , 2 0 2 1

옵저버빌러티(Observability) 확보로
서버리스 마이크로서비스 들여다보기
김형일
솔루션즈 아키텍트
AWS

옵저버빌러티(Observability)
메트릭(Metrics)
로그(Logs)
경보(Alerts)
추적(Tracing)
옵저버빌러티를 위한 통합
새로운 서비스들
Agenda

옵저버빌러티
(Observability)

Everything fails,
all the time.
Dr. Werner Vogels. Amazon CTO

Monolith에서
Microservice로
변화
더 많은 디바이스와
서비스, 데이터
빠른 배포 속도 짧은 생명주기의
자원
모니터링의 발전

VM / Container
Server Hardware
Network/Storage
Operating System
Runtime / Middleware
Virtualization Layer
Application + Data
Business
Focus on creating
비즈니스 가치
CUSTOMER
Remove heavy lifting with
서버리스
AWS
서버리스와 모니터링 계층(Layers)

문제를 빠르게 식별할 수록 빠르게 해결할 수 있습니다.
MONITORING
모니터링
OBSERVABILITY
옵저버빌러티
메트릭, 로그, 추적
모니터링, 디버깅, 경고
자원과 애플리케이션 가시성
실시간 인사이트
모니터링과 옵저버빌러티

옵저버빌러티
시간이 지남에 따라 발생하는 불연속적인
이벤트에 대한 불변의 타임 스탬프 기록
긴급하고 예측할 수 없는 행동을
발견하는데 유용
시간 간격에 따라 측정된
데이터의 숫자 표현
추세 파악, 수학 모델링 및
예측에 유용
로그
메트릭 추적
분산 시스템의 종단간 요청 흐름을
나타내는 일련의 분산 이벤트 표현
요청 통과 경로와 요청 구조에 대한
가시성을 제공
옵저버빌러티(Observability)의 3가지 요소

AWS Observability
Tools
CloudWatchLogs
CloudWatchMetrics
X-Ray
Traces
옵저버빌러티(Observability)의 3가지 요소

수집
임베디드 메트릭 형식
메트릭 필터
StatsD 및 CollectD
AWS PrivateLink
모니터링
교차 계정과 교차 리전
대시 보드
자동 대시 보드
메트릭 수식
SQS/SNS의 X-Ray 지원
실행
Synthetics
이상 탐지
메트릭 수식 기반 경보
검색 표현식
분석
ServiceLens
Contributor Insights
Container Insights
Logs Insights
X-Ray Analytics
옵저버빌러티를 위한 CloudWatch와 X-Ray

메트릭(Metrics)

CloudWatch 빌트인(Built-in) 메트릭
많은 시간이 걸리는 메트릭 수집에 AmazonCloudWatch를사용하면 Lambda,API Gateway,DynamoDB외
70개 이상의 AWS 서비스에서 Built-in메트릭을 수집할 수 있습니다.
InvocationMetrics
Invocation 수, Invocation 에러, DeadLetterErrors,
DestinationDeliveryFailures, Throttles,
ProvisionedConcurrencyInvocations,
ProvisionedConcurrencySpilloverInvocations
AWS Lambda
PerformanceMetrics
Duration, IteratorAge
ConcurrencyMetrics
ConcurrentExecutions,
ProvisionedConcurrentExecutions,
ProvisionedConcurrencyUtilization,
UnreservedConcurrentExecutions
REST
API 호출 수, Latency, 4XXs, 5XXs, Integration
Latency, Cache Hit Count, Cache Miss Count
AmazonAPIGateway
HTTP
API Calls Count, Latency, 4XXs, 5XXs, Integration
Latency, DataProcessed
WebSocket
접속 수, 메시지 수, Integration Error, Client Error,
Execution Error, Integration Latency

CloudWatch 사용자 정의 메트릭
빌트인 메트릭으로 충분하지 않은 경우 사용자 정의 메트릭 사용
비즈니스와사용자정의메트릭
비즈니스 목표에 대한 애플리케이션 성능
수익, 가입, 트래킹 정보, 지연시간, 페이지 뷰 등
애플리케이션의운영안정성
지속적인 통합/배포 피드백 시간, MTBF /MTBR,
호출 페이지 수, 해결 시간 등
에러나경고가발생
AWS Lambda의 Caught exceptions
다른차원의조회
사용자 ID, 카테고리, 아이템, 태그, 환경 등.
사용자정의메트릭
성능 모니터링, 문제 해결, 추세 파악 등을 위해
애플리케이션에서 수집
메트릭특징
AWS CLI 또는 API를 사용하여 게시
1 분 단위의 표준 해상도
1 초 단위의 고해상도
CloudWatch 게시 전 데이터 집계
StatsD 및 Collectd 지원

CloudWatch 사용자 정의 메트릭
exports.putMetric = async (name, unit = MetricUnit.Count, value = 0, options) => {
try {
const metric = buildMetricData(name, unit, value, options)
await cloudwatch.putMetricData(metric).promise()
} catch (err) {
. . .
exports.putItemHandler = async (event, context) => {
let response
try {
if (_cold_start) {
await putMetric(name = 'ColdStart', unit = MetricUnit.Count, value = 1,
{ service: 'item_service', function_name: context.functionName })
_cold_start = false
}

CloudWatch 임베디드 메트릭 형식(EMF)
오픈소스클라이언트라이브러리
Node.js, JAVA 및 Python에서 사용 가능
자세한로그이벤트데이터와함께
사용자지정메트릭을포함
PutLogEvents API 호출로 구조화된
포맷 비동기 전송
STRUCTUREDCloudWatchLogs에서
지표를자동으로생성
https://github.com/awslabs/aws-embedded-metrics-node
CloudWatchembedded metricsformat

CloudWatch 임베디드 메트릭 형식
try { //After Sucessful Response Composition //Metrics
await logMetricEMF(name = 'SuccessfulGetAllItems', unit = Unit.Count, value = 1, {
service: 'item_service', operation: 'get-all-items' })
} catch (err) { //After Exception Handling //Metrics
await logMetricEMF(name = 'FailedGetAllItems', unit = Unit.Count, value = 1, { service:
'item_service', operation: 'get-all-items' })
}
exports.logMetricEMF = async (name, unit = Unit.Count, value = 0, dimensions) => {
try {
const metrics = createMetricsLogger()
metrics.putDimensions(buildEMFDimensions(dimensions))
metrics.putMetric(name, value, unit)
metrics.setNamespace(process.env.AWS_EMF_NAMESPACE !== undefined ?
process.env.AWS_EMF_NAMESPACE : 'aws-embedded-metrics’)
log.debug(metrics) await metrics.flush()
. . .

CloudWatch 임베디드 메트릭 형식
message = {
"LogGroup": "monitoring-app-
getAllItemsFunction-14LMI1R7T8BYJ",
"ServiceName": "item_service",
"ServiceType": "AWS::Lambda::Function",
"operation": "get-all-items",
"executionEnvironment":
"AWS_Lambda_nodejs12.x",
"memorySize": "128",
"functionVersion": "$LATEST",
"logStreamId":
"2021/02/21/[$LATEST]5d99c99524744e7b906c36b8e11e
ca81",
"traceId": "Root=1-60323a78-
c2530336fa5c854826d6d449;Parent=0782989d6bbe2f5c;
Sampled=1",
}
"_aws": {
"Timestamp": 1613904511706,
"CloudWatchMetrics": [ {
"Dimensions": [ [
"LogGroup",
"ServiceName",
"ServiceType",
"operation”
] ],
"Metrics": [ {
"Name":
"SuccessfulGetAllItems",
"Unit": "Count"
} ],
"Namespace": "MonitoringApp"
} ] },

로그(Log)

CloudWatch 로그
CloudWatchLogs 서비스를 사용하면 자원, 애플리케이션 및 서비스에서 준실시간으로 로그를 수집하고
저장할 수 있습니다.
2 단계 로깅, ERROR 및 INFO
메서드 요청 / 본문(Body) 선택적 기록
전역으로 설정하거나 메서드별로 재정의
APIGatewayRESTAPILogging
로그 필터를 기반으로 메트릭 작성
메트릭을 생성한 로그로 이동
MetricFilters
console.log()와 동일하게 개발 코드에서
기본 정보를 포함하도록 직접 로깅
PutMetricData API나 임베디드 메트릭
형식을 사용해 JSON의 구조화된 로깅
LambdaLogging
Kibana나 Athena/QuickSight로 탐색
ExportlogstoAmazonElastiCacheorS3

CloudWatch 로그 인사이트
서버를 프로비저닝하거나 소프트웨어를
관리할 필요없이 로그로 부터 운영
문제를 해결할 수 있는 실행 가능한
통찰력을 얻을 수 있습니다.
• 집계, 필터 및 정규식으로 쿼리 작성
• 시계열 데이터 시각화
• 개별 로그 이벤트로 드릴 다운
• 대시 보드로 결과 내보내기
• 실행 쿼리에 대해서만 비용을 지불
fields Timestamp, LogLevel, Message
| filter LogLevel == "ERR"
| sort @timestamp desc
| limit 100
CloudWatchcustom metrics

경보(Alerts)

메트릭에 대한 이상 탐지를 활성화하면
CloudWatch는 과거 데이터에 머신러닝
알고리즘을 적용해 예상 값에 대한 모델 생성
메트릭 패턴을 기반으로 하여 임계값을
자동조정(Auto-adjust)한 경보를 생성
구간(Band)의 위, 아래 또는 둘 다일 때 알람
대시 보드에서 이상 탐지 구간을 메트릭과
같이 시각화
CloudWatch 이상 탐지(Anomaly Detection)

추적(Tracing)

AWS X-Ray
Trace 수집 Trace 기록 서비스맵 조회 이슈 분석
AWS X-Ray는 End-to-End 조회로 개발자가 마이크로 서비스 아키텍처 같은 프로덕션
분산 애플리케이션을 분석하고 디버깅하는데 도움을 주는 애플리케이션 중심의 뷰 제공
Lambda : 수신 요청(Request)를 측정하고 코드에서 이루어진 호출(Call)을 캡처
API Gateway : 추적 헤더를 HTTP 호출에 삽입하고 데이터를 X-Ray 에 전송
SNS, SQS, AppSync 등에서 사용 가능

옵저버빌러티를 위한 통합

ServiceLens로 한 장소에서 애플리케이션
상태, 성능 및 가용성을 시각화하고 분석
애플리케이션에 대한 종단간 조회를 위해
CloudWatch를 AWS X-Ray와 통합
Service Map은 서비스 Endpoint 및 자원을
"노드"로 표시하고 각 노드 및 해당 연결에
대한 트래픽, 지연 시간 및 오류를 강조 표시
노드를 선택하면 서비스 중 해당 부분과
관련된 메트릭, 로그 및 추적 정보 조회
CloudWatch ServiceLens

24x7, 1분 간격으로 애플리케이션
Endpoint를 테스트하고 예상대로
작동하지 않는 즉시 알림 전송
• 고객 경험 조회
• 스크립트로 구성 가능
• 한 번 실행 혹은 실행 스케줄링
• 가용성 및 지연 시간 확인
• 로드 시간 저장
• 스크린 샷 저장
CloudWatch Synthetics

AWS Lambda 함수의 성능 모니터링,
문제 해결 및 최적화
• 지표, 로그 및 추적의 상관 분석
• Lambda 함수의 성능과 상태를
요약하는 선별된 자동화 대시보드
• 추적 종속성 분석의 ServiceLens와
Logs Insights를 통한 로그 분석을 위해
CloudWatch Logs와 통합
• 실행중인 함수의 Observability를 위한
새로운 성능 지표
CloudWatch Lambda Insights

새로운 서비스들

Amazon Managed Service for Prometheus
Highlyavailable,secure,andmanagedmonitoringandalertingforcontainers
IN PREVIEW
TODAY
서버리스, 보안성, 확장성
손쉬운 다중 계정, 다중 리전 설정을 위한 자동 보안 패치 및
업그레이드, 엔터프라이즈급 보안과 AWS 서비스 통합
AWS 서비스와 원활하게 통합
Amazon SNS, AWS IAM, Amazon Managed Service for
Grafana 등과 통합
Prometheus 메트릭을 수집, 저장 및
질의할 수 있는 완전관리형 서버리스 환경
Amazon EKS, Amazon ECS 및 EC2의 Kubernetes와 같은
컨테이너 환경에서 지표 수집

Amazon Managed Service for Grafana
Powerful,interactivedatavisualizationsforbuilders,operators,andbusinessleaders
IN PREVIEW
TODAY
서버리스, 확장성, 안전성, AWS 서비스 통합
손쉬운 다중 계정, 다중 리전 설정을 위한 자동 보안 패치 및
업그레이드, 엔터프라이즈급 보안과 AWS 서비스 통합
Grafana Enterprise로 손쉬운 업그레이드
Datadog, Splunk 등의 써드파티 ISV 연계를 지원하는
Grafana Enterprise의 장점 활용
중앙집중식 옵저버빌러티 확보
여러 데이터 소스로 부터 메트릭, 로그 및 추적 데이터, IoT
데이터 등을 안전하게 시각화, 분석, 모니터링 및 경보 가능

AWS Proton
인프라 운영자
애플리케이션 인프라
템플릿 생성
AWS Proton
Monitor and update
deployments
개발팀
애플리케이션 인프라
템플릿 검색과 배포
일관된표준및관리로코드파이프라인배포를위한완전관리형배포서비스
IN PREVIEW
TODAY

CloudWatch
경보 알림 수신
Notification ServiceLens
서비스맵을
보고 심층
분석할 관심
지점(Point of
Interest)을 식별
Traces
관심 지점의 특정
API/서비스에
속하는 추적,
추적맵 및 요청
조회
X-Ray
Analytics
X-Ray 분석에서
추적에 대한
심층 분석 수행
Log Insights
심층 분석을 위해
특정 시점에 속한
로그를 쿼리하고
근본 원인을 식별
Troubleshooting

Summary
• 데이터 기반 결정을 위해 필요한 많은 데이터를 수집에
중점을 두는 문화
• 상태 변화의 이해
단순한 메트릭 모니터링 그 이상
• 강력한 임베디드 메트릭 포맷 사용
• 로그 데이터의 대화형 쿼리 및 분석을 위해 Logs Insights
사용
• ServiceLens는 애플리케이션에 대한 단일창 보기 제공
Amazon CloudWatch 및 AWS X-Ray는 시스템 성능에
대한 가시성을 확보할 수 있는 도구를 제공
Workshop: https://bit.ly/3bKg0Rt
Observability
Logs
Metrics Traces

여러분의 소중한 피드백을 기다립니다.
강연 종료 후, 강연 평가에 참여해 주세요!

감사합니다

옵저버빌러티(Observability) 확보로 서버리스 마이크로서비스 들여다보기 - 김형일 AWS 솔루션즈 아키텍트 :: AWS Summit Seoul 2021

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to 옵저버빌러티(Observability) 확보로 서버리스 마이크로서비스 들여다보기 - 김형일 AWS 솔루션즈 아키텍트 :: AWS Summit Seoul 2021

Similar to 옵저버빌러티(Observability) 확보로 서버리스 마이크로서비스 들여다보기 - 김형일 AWS 솔루션즈 아키텍트 :: AWS Summit Seoul 2021 (20)

More from Amazon Web Services Korea

More from Amazon Web Services Korea (20)

옵저버빌러티(Observability) 확보로 서버리스 마이크로서비스 들여다보기 - 김형일 AWS 솔루션즈 아키텍트 :: AWS Summit Seoul 2021