Airflow

추적해야 할 핵심 지표와 로그 항목

파이프라인 모니터링은 사후 대응이 아니라 설계 단계부터 고려해야 한다. 추적해야 할 핵심 지표로는 실행 시간(duration), 처리 레코드 수(record counts), 오류율(error rates), 데이터 신선도(freshness, 즉 데이터가 마지막으로 갱신된 시점이 얼마나 최신인지), 리소스 사용률이 있다. 자동화된 모니터링이 있어야 장애를 즉시 감지할 수 있다.

효과적인 로깅은 파이프라인 시작 시각, 처리 완료 마커, 단계별 변환 레코드 수, 발생한 오류, 각 단계의 실행 시간 같은 중요 이벤트를 남긴다. 로그는 검색 가능하고, 타임스탬프가 찍혀 있고, 근본 원인 분석을 빠르게 할 수 있을 만큼 상세해야 한다. Prometheus/Grafana 조합이나 AWS CloudWatch, Azure Monitor, Google Cloud Operations 같은 클라우드 네이티브 옵션으로 이 지표들을 시계열로 시각화한다.

알림 민감도와 알림 피로의 균형

알림 설정은 진짜 장애를 놓치지 않을 만큼 민감해야 하지만, 동시에 알림 피로(alert fatigue)를 일으킬 만큼 예민해서도 안 된다. 사소한 일시적 지연이나 자동 복구되는 문제까지 매번 알림을 보내면, 팀은 점차 알림을 무시하게 되고 정작 중요한 알림도 놓치게 된다. 실무에서는 재시도로 자동 복구되지 않는 실패, 정의된 임계치를 넘는 지연, 데이터 신선도가 기대치를 벗어난 경우처럼 '사람의 개입이 실제로 필요한 상황'만 알림으로 좁히는 것이 알림 피로를 줄이는 핵심이다.