애플리케이션 성능 모니터링이란 무엇인가요?

애플리케이션은 모든 IT 환경에서 필수적인 요소입니다. 애플리케이션은 아키텍처의 기능 계층 역할을 하며, 데이터를 처리하고 인프라와 사용자 간의 격차를 해소합니다. 따라서 기업의 운영 비용, 수익 및 고객 유지에 직접적인 영향을 미칩니다.

애플리케이션 성능 모니터링에는 애플리케이션 에코시스템을 유지하는 데 필요한 모든 사례가 포함됩니다. 따라서 이는 애플리케이션 자체만큼이나 엔터프라이즈 IT 환경과 전반적인 비즈니스 목표에 필수적입니다.

애플리케이션 성능 모니터링은 애플리케이션 상태에 대한 인사이트를 제공하고 성능 문제를 식별하기 위해 지연 시간, 오류율 및 처리량과 같은 핵심 성과 지표(KPI)를 평가하는 자동화 워크플로와 모니터링 툴에 크게 의존합니다. 이러한 툴은 다음과 같은 작업을 수행합니다.

• 용량 문제와 비효율성을 파악할 수 있도록 인프라 지표(CPU 사용률, 메모리 소비량 및 기타 리소스 사용률 KPI)를 수집하고 연관성을 분석합니다.

• 문제가 발생하는 정확한 지점을 파악할 수 있도록 애플리케이션 프로그래밍 인터페이스(API), 데이터베이스 및 마이크로서비스를 거쳐 서비스 전반에서 개별 데이터 트랜잭션을 엔드투엔드로 추적합니다.

• 특정 시점에 애플리케이션이 수행한 작업을 설명하는 로그 및 이벤트 데이터를 수집하여 엔지니어가 문제를 해결하고 애플리케이션을 더 빠르게 디버깅하도록 지원합니다.

• 개발자가 사용자 상호 작용을 이해하도록 지원하기 위해 실제 사용자 모니터링(실제 고객의 경험을 기록하는 모니터링)과 합성 모니터링(실제 사용자에게 영향을 미치기 전에 문제를 감지할 수 있도록 사용자 작업을 시뮬레이션하는 모니터링)을 수행합니다.

애플리케이션 성능 모니터링 플랫폼을 활용하면 DevOps 팀은 선제적으로 문제를 감지하고, 애플리케이션 가동 시간을 늘리며, 엔지니어가 긴급 대응 업무에 소요하는 시간을 줄일 수 있습니다. 이러한 역량은 기업이 웹 애플리케이션을 사용자에게 최대한 원활하게 제공하고, 조직 리더가 소프트웨어 투자에 관한 데이터 기반 의사 결정을 내리도록 지원합니다.

일반적으로 개발 팀은 애플리케이션 코드를 계측하고(실행 중 코드가 수행하는 작업에 관한 데이터를 수집하도록 코드에 모니터링 로직을 삽입), 애플리케이션 스택과 함께 경량 에이전트를 배포하여 애플리케이션 성능 모니터링을 구현합니다.

에이전트는 애플리케이션 서버에서 실행되며, 애플리케이션 성능에 큰 영향을 주지 않으면서 애플리케이션 프로세스, 인프라 및 호스팅 환경, 다운스트림 종속성 및 사용자 인터페이스에서 데이터를 수집합니다. 그런 다음 에이전트와 계측 기능은 모니터링 데이터를 중앙 모니터링 플랫폼으로 전송하고, 이 플랫폼은 데이터를 통합하여 대시보드와 기타 시각화를 생성합니다.

모니터링 플랫폼은 IT 팀이 요구하는 규칙과 임곗값을 적용하고, 규칙을 위반하거나 KPI가 허용 한도를 초과할 때 경고를 발송합니다. 이를 통해 팀은 문제가 발생했을 때 신속하게 대응할 수 있습니다.

예를 들어 XYZ 회사가 인사 및 급여 처리를 위해 애플리케이션 ABC를 사용한다고 가정해 보겠습니다. DevOps 팀은 근무 시간 기록 제출 지연 시간이 1.5초 미만이어야 하고, 오류율은 5분 동안 0.5% 미만으로 유지되어야 하며, 로그인 실패율은 5분 동안 2% 미만으로 유지되어야 한다고 결정합니다.

정상적인 날에는 애플리케이션이 700밀리초 이내에 응답하고, 오류율은 0%에 가깝고, 로그인 실패율도 낮습니다. 그러나 연휴를 앞둔 바쁜 급여 처리일인 금요일에는 잘못 구성된 데이터베이스 인덱스로 인해 성능이 저하됩니다. 지연 시간, 오류율 및 로그인 실패율이 할당된 임곗값을 초과하기 시작합니다. 모니터링 툴은 필요한 모든 팀원에게 자동으로 경고를 발송하므로, 팀은 문제가 있는 인덱스를 신속하게 찾아 수정할 수 있습니다. 

고급 기능을 갖춘 플랫폼의 경우 이상 감지 및 머신 러닝(ML) 기반 기능을 통해 비정상적인 데이터 패턴을 식별하고, 성능 문제를 예측하며, 심각도와 시간 민감도에 따라 경고를 분류하여 경고 노이즈를 줄일 수도 있습니다.

이러한 프로세스는 프런트엔드 인터페이스, 백엔드 서비스, 데이터베이스 및 서드파티 종속성 전반에 걸친 엔드투엔드 가시성을 확보하는 데 도움이 됩니다. 이를 통해 팀은 각 개별 구성 요소가 전반적인 애플리케이션 성능에 미치는 영향을 파악할 수 있습니다.

‘APM’이라는 약어는 애플리케이션 성능 모니터링(Application Performance Monitoring)과 애플리케이션 성능 관리(Application Performance Management) 모두에 자주 사용됩니다. 실제로 두 용어는 흔히 같은 의미로 사용됩니다. 그러나 애플리케이션 성능 모니터링 툴은 모니터링에만 초점을 맞추며, 애플리케이션 성능 관리(APM)의 한 측면에 불과합니다. APM 플랫폼은 모니터링 외에도 데이터 분석 프로세스, 문제 해결 프로토콜 및 최적화 툴을 제공합니다.

모니터링 솔루션은 애플리케이션 환경과 이를 지원하는 인프라 전반에 배포된 에이전트를 사용하여 일정한 간격으로 성능 지표(또는 텔레메트리)를 샘플링합니다(최대 1분에 한 번). 보다 현대적인 솔루션은 네트워크 트래픽 분석을 사용하여 애플리케이션 성능 데이터를 수집함으로써, 비침투적으로 데이터를 수집하는 에이전트리스 모니터링을 활용합니다.

애플리케이션 성능 관리는 여러 측면에서 모니터링 이후 애플리케이션 유지 관리 라이프사이클의 자연스러운 다음 단계입니다. APM 솔루션은 애플리케이션 성능 데이터와 모니터링 프로세스에서 인사이트를 도출하여 개발자가 엔터프라이즈 애플리케이션의 성능과 가용성을 최적화하도록 지원합니다.

애플리케이션 성능 모니터링 툴은 여러 유형의 모니터링을 통합하여 풀스택 가시성을 제공합니다.

인프라 모니터링은 서버, 가상 머신(VM), 컨테이너, 네트워크, 스토리지 및 클라우드 서비스 등 애플리케이션이 실행되는 기본 시스템의 상태와 성능에 중점을 둡니다.

이러한 유형의 모니터링은 리소스 중심적이며, 리소스를 사용할 수 있는지와 안전한 한도 내에서 작동하는지에 중점을 둡니다. 시스템 상태에 대한 수치형 시계열 데이터인 저수준 지표와, 구성 요소의 작업 부하 및 장애 또는 성능 저하에 가까운 정도를 설명하는 신호를 활용합니다.

서버 또는 VM의 모니터링 지표에는 일반적으로 CPU 사용률, 메모리 소비량, 디스크 I/O, 디스크 공간 및 네트워크 처리량이 포함됩니다. 컨테이너와 Kubernetes 노드의 경우에도 유사한 지표를 모니터링하지만, 파드, 노드 및 네임스페이스 범위로 한정됩니다.

서버 측(또는 백엔드) 모니터링은 애플리케이션 서버, 마이크로서비스, API, 미들웨어 및 이들이 사용하는 프레임워크와 런타임을 비롯한 백엔드 애플리케이션 코드와 서비스가 데이터 요청을 처리하는 방식을 평가합니다.

인프라 모니터링은 ‘이 노드에 과부하가 발생했는가?’ 또는 ‘이 디스크가 곧 가득 찰 것인가?’와 같은 리소스 관련 질문에 답합니다. 서버 측 모니터링은 ‘이 API 엔드포인트가 사용자에게 느린 이유는 무엇인가?’와 같은 애플리케이션 중심 질문을 다룹니다.

모니터링 툴은 코드, 프레임워크 및 종속성을 거쳐 흐르는 요청의 실행을 관찰하여 프로세스의 작동 효율성과 각 요청에 시간 및 리소스가 사용되는 지점을 파악합니다. 에이전트는 런타임에 연결하여 특정 함수와 프로세스에 소요되는 시간을 측정하고, 문제를 정확히 파악할 수 있도록 요청을 여러 세그먼트로 나누며, 데이터베이스, 캐시, 큐 및 서드파티 API 호출을 추적합니다.

백엔드 모니터링은 일반적으로 응답 시간(API 엔드포인트 또는 서비스별), 처리량(초당 요청 수, 분당 처리된 작업 수), 오류율 및 오류 유형, 리소스 사용률과 같은 KPI를 추적합니다.

애플리케이션 관점에서 네트워크 모니터링은 데이터 패킷이 애플리케이션 작동을 뒷받침하는 구성 요소(라우터, 스위치, 로드 밸런서, API 게이트웨이) 사이를 이동하는 방식과 네트워크 경로 자체가 데이터 전송을 늦추거나 장애를 유발하는지를 측정합니다.

데이터 패킷이 네트워크에서 거치는 각 홉은 지연 또는 장애 지점을 추가할 수 있습니다. 링크가 포화 상태이거나 스위치에서 패킷이 손실되거나 경로가 최적화되지 않은 경우, 코드와 서버에 문제가 없더라도 애플리케이션 API의 신뢰성이 저하될 수 있습니다. 따라서 네트워크 모니터링은 지연 시간, 패킷 손실, 지터 및 대역폭 사용률과 같은 KPI에 중점을 둡니다.

일반적으로 네트워크 모니터링 툴은 애플리케이션 트래픽이 두 엔드포인트 간에 이동하는 과정을 모니터링합니다(예: 웹 서버와 애플리케이션 서버 간, 애플리케이션 서버와 데이터베이스 간).

또한 네트워크 트래픽 데이터는 상위 수준의 애플리케이션 성능 모니터링 데이터와 연관성을 분석할 때 가장 유용합니다. 트랜잭션 추적(서비스 전반에서 요청이 이동하는 전체 경로를 추적하는 기능)에서 특정 서비스 간 호출이 느린 것으로 나타나면, 네트워크 지표를 통해 동시에 호스트 간 링크에서 패킷 손실이나 지연 시간 급증이 발생했는지도 확인할 수 있습니다.

이를 통해 IT 팀은 예를 들어 서비스 A에서 서비스 B로의 호출이 두 노드 간 경로 변경으로 인해 20밀리초가 아닌 300밀리초가 걸리고 있음을 파악할 수 있습니다.

데이터베이스 모니터링은 데이터베이스의 성능과 가용성, 그리고 애플리케이션 성능에 영향을 줄 수 있는 리소스 또는 구성 한도에 근접했는지를 측정합니다. 이러한 유형의 모니터링을 통해 코드 수준 문제와 스키마 설계 또는 데이터 액세스 패턴 문제를 더 쉽게 구분할 수 있습니다.

사용자에게 표시되는 많은 성능 문제는 데이터베이스에서 비롯되므로, 전용 데이터베이스 모니터링은 애플리케이션 관리에 매우 중요합니다.

모니터링 툴은 가장 ‘비용이 많이 드는’ 쿼리, 즉 전체적으로 가장 많은 시간이나 리소스를 소비하는 쿼리를 식별하고, 호출 전반의 총 실행 시간, 지연 시간 백분위수 및 쿼리당 입출력 시간과 같은 지표를 기준으로 순위를 매깁니다. 이 프로세스는 IT 팀이 누락된 데이터베이스 인덱스 또는 제대로 작성되지 않은 쿼리를 찾아내도록 지원하며, 이러한 문제는 최종 사용자에게 제공되는 전체 애플리케이션의 속도를 저하시킬 수 있습니다.

로그 모니터링 및 분석은 애플리케이션이 생성하는 로그(변경할 수 없는 시스템 이벤트 기록)를 수집하고, 문제를 일으키는 시스템 이벤트를 찾기 위해 로그 데이터를 검색하고 연관성을 분석합니다.

로그 모니터링 툴은 서로 다른 애플리케이션의 로그를 여러 시스템에 분산된 상태로 두지 않고, 일반적으로 하나의 플랫폼에 중앙화합니다. 에이전트는 로그 항목을 수집하여 모두 모니터링 플랫폼으로 전송하고, 이곳에서 로그는 구문 분석되고, 타임스탬프가 지정되고, 인덱싱됩니다. 이러한 통합 프로세스를 통해 분산된 텍스트 파일이 애플리케이션 환경을 운영하기 위한 단일의 검색 가능한 실시간 데이터 소스로 전환됩니다.

로그 모니터링 플랫폼은 로그가 도착하는 대로 처리하고, 규칙 또는 ML 기반 감지기를 적용하여 문제를 파악합니다. 문제가 되는 패턴이 발생하면 자동으로 경고를 실행합니다. 이러한 경고에는 개발자가 관련 로그 하위 집합으로 바로 이동할 수 있는 링크나 쿼리가 포함되는 경우가 많으므로, 즉시 문제 해결을 시작할 수 있습니다.

로그 데이터는 지표 및 추적 데이터와 연관성을 분석할 때 훨씬 더 강력해집니다. 지표 기반 성능 경고가 엔드포인트에서 실행되면 DevOps 팀은 느린 요청의 추적 데이터에서 해당 요청을 처리한 서비스의 로그로 바로 이동하여 문제의 근본 원인을 파악할 수 있습니다.

컨테이너 모니터링은 애플리케이션을 실행하는 컨테이너(예: Docker)와 오케스트레이터(예: Kubernetes)에 대한 가시성을 제공하여 애플리케이션 성능과 그 기반 인프라 간의 격차를 해소합니다. 모니터링 툴은 컨테이너와 파드를 자동으로 검색하고, 컨테이너를 해당 컨테이너가 실행하는 서비스에 매핑하며, 전체 라이프사이클을 추적하고, 리소스 사용량을 추적 데이터 및 사용자 요청과 연관성을 분석합니다.

컨테이너 모니터링은 여러 수준에서 지표를 수집합니다.

컨테이너 및 파드 수준에서는 CPU 사용률, 메모리 소비량, 네트워크 입출력 및 디스크 입출력을 측정합니다. 또한 파드 시작 및 재시작, 종료, 프로브 실패(컨테이너 상태가 비정상이거나 트래픽을 수신할 준비가 되지 않은 경우 발생하는 실패)와 같은 라이프사이클 이벤트를 포착합니다. 클러스터 및 노드 수준에서 모니터링 툴은 클러스터에 충분한 메모리가 있는지, 새 파드를 쉽게 스케줄링(배치)할 수 있는지, 서로 다른 네임스페이스의 파드가 동일한 리소스를 두고 경합하는지를 판단합니다.  

그런 다음 컨테이너 모니터링 데이터는 애플리케이션 컨텍스트로 보강됩니다. 예를 들어 서비스의 지연 시간이 급증하면 팀은 어떤 파드에 메모리가 부족한지 확인하고, 해당 파드에서 수집된 추적 데이터를 필터링하여 영향을 확인할 수 있습니다.

이러한 역량은 파드가 동적으로 확장되고 컨테이너가 몇 초 만에 시작되거나 삭제될 수 있는 컨테이너화된 애플리케이션을 관리하는 데 중요합니다. 컨테이너 모니터링은 엔지니어가 사용자 경험에 영향을 미치기 전에 실패한 배포와 리소스가 부족하게 프로비저닝된 클러스터를 파악하도록 지원합니다.

최종 사용자 경험 모니터링(EUEM) 및 디지털 경험 모니터링(DEM)의 하위 유형인 RUM은 실제 환경에서 애플리케이션을 사용하는 실제 사용자를 관찰하여 성능과 사용자 경험을 측정하는 기법입니다. RUM은 실제 네트워크, 기기 및 위치에서 사용자의 브라우저와 모바일 앱에 실제로 발생하는 일을 포착합니다.

RUM은 일반적으로 애플리케이션에 소규모 스크립트 또는 소프트웨어 개발 키트(SDK)를 삽입하고, 각 사용자 세션에서 시간 및 오류 데이터를 자동으로 수집하는 방식으로 작동합니다. 또한 브라우저 유형, 기기, 운영 체제, 네트워크 유형, 지리적 지역, 경우에 따라 사용자 식별자 또는 세션 ID와 같은 컨텍스트도 포착합니다.

그런 다음 스크립트는 모니터링 데이터를 통합 및 시각화하는 백엔드로 전송하므로, IT 팀은 서로 다른 트래픽 세그먼트에서 성능이 어떻게 달라지는지 세부적으로 분석할 수 있습니다. 예를 들어 개발자는 모바일 사용자와 데스크톱 사용자의 페이지 로드 시간을 비교하거나, 빠른 광섬유 연결을 사용하는 사용자와 느린 셀룰러 네트워크를 사용하는 사용자를 비교할 수 있습니다. 또한 어떤 페이지나 사용자 여정이 가장 느린지와 각 흐름에서 오류가 얼마나 자주 발생하는지도 확인할 수 있습니다.

RUM은 실제 조건(느린 가정용 Wi-Fi, 모바일 네트워크, 오래된 기기)을 반영하므로, 고객 경험을 이해하고 시스템 성능과 사용자 결과를 직접 연결하는 데 유용한 진단 방법입니다. 특히 특정 조건이나 특정 플랫폼에서만 발생하는 문제를 찾는 데 유용합니다.

EUEM의 또 다른 유형인 합성 모니터링은 전 세계의 다양한 위치에서 실행되는 자동화된 스크립트를 사용하여 애플리케이션에서 사용자 상호 작용(로그인, 검색, 장바구니에 항목 추가, 결제 완료)을 정해진 일정에 따라 시뮬레이션합니다.

엔지니어는 URL로 이동, 양식 작성, 버튼 클릭 또는 API 호출과 같은 정확한 작업 순서를 정의하는 스크립트를 작성합니다. 스크립트는 실제 클라우드 호스팅 브라우저 또는 환경 전반의 에이전트에서 반복적으로 실행됩니다(5분마다, 매시간 또는 사용자 지정 일정에 따라). 각 실행은 지표(총 트랜잭션 시간, 단계별 소요 시간, 애플리케이션 가용성)와 프로세스 문서화 자료(장애 화면의 스크린샷 또는 동영상)를 생성합니다.

시간이 지남에 따라 동일한 스크립트를 지속적으로 실행하면 애플리케이션 성능에 대한 신뢰할 수 있는 기준선을 설정할 수 있습니다. 일반적으로 3초가 걸리는 결제 스크립트가 갑자기 12초가 걸리거나 결제 단계에서 실패하면, 실제 사용자가 아직 문제를 신고하지 않았더라도 IT 팀은 즉시 경고를 받습니다.

따라서 합성 모니터링은 실제 사용자가 문제를 경험하기 전에 문제를 포착하고, 정상 업무 시간 외 또는 사용자 기반이 작은 지역에서 시스템 성능을 모니터링하는 데 유용합니다.

많은 IT 관리 사례와 마찬가지로 애플리케이션 성능 모니터링도 이점과 사용 사례를 확장하는 데 도움이 되는 새로운 기술을 통합하고 있습니다.

예를 들어 많은 선도적인 모니터링 툴은 인공 지능(AI) 및 ML 기술을 기반으로 실시간 데이터를 연관 지어 분석하는 최첨단 기능을 도입하고 있습니다. AI 기반 툴은 더 많은 양의 텔레메트리 데이터를 선별하여 분석할 수 있으며, 더 나아가 해당 데이터를 바탕으로 시스템에서 발생할 수 있는 일을 예측할 수도 있습니다.

DevOps 팀은 예측 분석을 사용하여 잠재적인 문제가 애플리케이션 성능에 영향을 미치기 전에 예측할 수 있습니다. 예측 분석은 과거 텔레메트리로 학습된 ML 모델을 활용하여 성능 저하를 나타내는 미세한 패턴(예: 점진적인 지연 시간 급증 또는 오류율 상승)을 감지합니다.

예측 분석 툴은 갑작스러운 트래픽 급증이나 종속성 장애와 같은 가상의 애플리케이션 부하 요인을 모델링하여 ‘가정(what-if)’ 시나리오를 시뮬레이션할 수도 있습니다. 이러한 시뮬레이션은 과거 데이터 패턴과 실시간 입력값을 바탕으로 결과를 예측하고 확률적 예측을 생성합니다(예: ‘내일 CPU 사용률이 90%에 도달하면 지연 시간이 500밀리초를 초과할 확률은 80%입니다’).

AI 기반 애플리케이션 성능 모니터링의 발전은 사후 대응적이고 ‘이상 감지에만’ 의존하는 접근 방식에서, 중단을 예상하고 방지할 수 있는 완전한 사전 예방 시스템으로 이동하고 있음을 보여줍니다.

클라우드 환경과 엣지 컴퓨팅도 애플리케이션 성능 모니터링을 변화시키고 있습니다. 이러한 기술에는 서비스형 소프트웨어(SaaS) 애플리케이션과 같은 클라우드 네이티브 애플리케이션 아키텍처 및 기존 온프레미스 데이터 센터를 훨씬 넘어서는 동적인 IT 환경을 처리할 수 있는 툴이 필요합니다.

이제 고급 모니터링 시스템은 컨테이너화된 워크로드, 서버리스 함수 및 마이크로서비스에 대한 확장성과 실시간 가시성을 우선시합니다.

이러한 시스템은 추가 리소스를 소모하지 않고 서비스 메시와 자동 확장 클러스터를 거쳐 요청을 엔드투엔드로 추적하여, 모든 홉에서 애플리케이션 성능 문제를 포착할 수 있습니다. 또한 분산 추적과 고급 컨텍스트 전파 기능을 통합하여 서비스 전반에서 요청 메타데이터를 보존하고, 복잡한 IT 에코시스템에서 성능 병목 현상을 정확하게 감지하도록 지원합니다.

많은 고급 모니터링 시스템은 클라우드 네이티브 스택에서 널리 사용하는 언어를 위한 자동 계측 기능도 제공합니다. 이러한 기능은 IT 팀이 설정 시간을 줄이고, 성능 검사를 지속적 통합/지속적 제공(CI/CD) 파이프라인에 원활하게 통합하도록 지원합니다.

이러한 변화에 따라 IT 팀은 빠르게 시작되고 종료되는 일시적 리소스를 모니터링하고, 하이브리드 클라우드 및 멀티클라우드 환경 전반에서 애플리케이션 성능을 최적의 상태로 유지할 수 있습니다.

최신 애플리케이션 성능 모니터링 툴은 기업에 다양한 이점을 제공합니다.