리소스 관리 - 오토스케일링(auto scaling), 모니터링 (monitoring)


애플리케이션 운영에서 인프라 담당자는 정상적인 운영에 필요한 인프라 환경을 유지하기 위해 애플리케이션에서 필요로 하는 리소스의 상태를 확인하고 모니터링 하고 싶어 합니다.


일반적으로 인프라 서버 리소스는 CPU, 메모리, 네트워크, 디스크 등을 의미합니다. 

이 가운데 CPU와 메모리는 애플리케이션 서비스를 운영할 경우 중요한 리소스이며, 쿠버네티스 기반의 애플리케이션 서비스를 운영할 경우, 컨테이너 CPU나 메모리 사용량 정보는 메트릭 API를 통해 클러스터 상의 노드나 파드의 리소스 상태 정보를 확인하거나 모니터링 할 수 있습니다. 

중요한 애플리케이션 서비스를 운영하는 경우, 과부하로 인하여 서비스에 문제가 발생하지 않게, 리소스를 효율적으로 사용하여 대처하는 것이 중요합니다. 



(1) 오토스케일링(Auto scaling)


예를 들어, 운영중인 애플리케이션에서 서비스 요청이 늘어나게 되면 서버에 부하가 발생하게 되므로 원활한 서비스 처리를 위해, 실제 애플리케이션에 맞는 적절한 리소스를 동적으로 할당하고 관리하는 기능이 필요하게 되며, 이런 역할을 수행하는 것을 오토스케일링(Auto scaling) 이라고 합니다. 


오토스케일링은 리소스의 임계치를 설정하여 컨테이너 상태 및 리소스 메트릭 정보를 모니터링 해서 특정 이벤트에 대해 컨테이너를 확장 및 축소하는 기능을 제공하는 서비스입니다.


쿠버네티스의 경우, CPU나 메모리와 같은 일반적인 수준의 메트릭 정보를 통한 오토스케일링이 가능합니다. 하지만 실제 운영 환경의 여러 복잡한 상황에 대처하기에는 제약 사항이 존재하게 됩니다. 운영 환경에서 애플리케이션 서비스를 운영하다 보면 다양한 유형의 서비스 부하 상황을 경험하게 됩니다.



예를 들어, WAS를 사용하여 운영 중인 서비스에 사용자는 폭주하는데, CPU나 메모리 사용량은 낮고, 응답시간이 늦어지거나 사용자 요청을 처리하는 Thread가 부족한 경우 등으로 인해서 서비스가 원활하지 않을 수 있습니다.


이러한 여러 상황을 고려하여, 컨테이너 통합 관리 솔루션 ‘아코디언’은 CPU나 메모리뿐 아니라 WAS의 thread/tps/elapsed time/gctime 등 다양한 오토스케일링 기준 방식을 제공하며, 무중단 스케일 아웃까지 지원합니다.

또한, Time Based 자동 확장으로 트래픽이 발생하는 시간을 고려하여 사전에 컨테이너를 확장해 놓을 수 있는 예약 기능을 제공할 뿐 아니라 자동 확장 시작 시간 및 종료 시간 까지 설정할 수 있습니다.



이는 온라인 쇼핑몰의 타임 세일이나 대학교의 수강 신청과 같이 예측 가능한 환경에서 리소스를 확장해 놓고 이벤트가 끝나는 시점에 종료하도록 설정함으로써 리소스를 효율적으로 사용할 수 있도록 합니다.




(2) 모니터링 (monitoring)


컨테이너 기반 애플리케이션과 마이크로서비스의 도입이 확대되면서 모니터링 및 관리에 대한 중요성이 점점 커지고 있습니다.

쿠버네티스 기반의 애플리케이션 서비스를 운영하는 경우, 자원 상태 및 서비스 성능 등에 대한 모니터링을 하려면 직접 별도의 모니터링 시스템을 구축하거나 전문 솔루션을 이용해야 합니다.




사용자가 오픈 소스 등을 활용해 자체적으로 시스템을 구축하게 되면 사용자가 직접 유지보수 및 관리를 해야 하는 어려움이 있을 뿐 아니라, 어떤 지표를 모니터링 해야 할 지 등에 대한 추가 노하우도 필요합니다.

호스트와 컨테이너, 쿠버네티스에 대한 모니터링을 제공하는 오픈 소스가 있지만 애플리케이션 지표에 대한 모니터링과 로깅 기능은 제공하지 않기 때문에 별도로 구축해야 하는 경우도 있습니다.


하지만 이런 모든 기능을 한번에 제공하는 전문 솔루션을 사용하게 되면 시스템 구축 및 유지보수에 필요한 리소스의 낭비를 막을 수가 있습니다.


컨테이너 통합 관리 솔루션 ‘아코디언’은 사용자가 직관적으로 볼 수 있는 Web UI 형태의 다양한 대시보드를 제공합니다.

멀티 클러스터와 애플리케이션을 위한 통합 모니터링 대시보드를 통해 리소스 모니터링을 할 수 있으며, 실시간 상태 및 알림을 제공합니다. 


관리자 대시보드 및 프로젝트 대시보드를 통해 애플리케이션의 통합 현황 관리를 할 수 있습니다.

멀티 클라우드 대시보드를 통해 다양한 클라우드 공급업체에서 구성된 클러스터 관리 및 오브젝트 관리, 도커 레지스트리 관리를 할 수 있습니다. 또한, 웹 서비스에서 가장 많이 사용되는 WAS에 대한 성능 모니터링을 위한 APM 기능도 제공합니다.



‘아코디언’은 멀티 클러스터 및 클러스터 자원에 대한 모니터링, 컨테이너 시스템 모니터링, 애플리케이션 성능에 대한 실시간/이력 모니터링, 장애 모니터링 등 다양한 모니터링을 제공할 뿐 아니라 모니터링 메트릭에 대한 관리 기능을 제공합니다.


이와 같이 아코디언이 제공하는 다양한 모니터링을 통해, 장애 발생 시 빠르게 원인을 파악하고 대응하여 시스템을 안정적으로 운영할 수 있습니다.


이로써 총 5편까지 컨테이너 통합관리 솔루션이 어떻게 사용될 수 있는지 알아보았습니다.

클라우드의 시대, 아코디언과 함께 성공적인 클라우드 네이티브 성공 전략을 세우시길 바랍니다.


제품 혹은 문의사항은 댓글 혹은 [email protected] 로 연락주시기 바랍니다. 

3개의 댓글이 있습니다.

12일 전

좋은 정보 감사드립니다.!

Reply

댓글 남기기

댓글을 남기기 위해서는 로그인이 필요합니다.

로그인 회원가입

20일 전

오라클에서도 오토스케일링이 되던데 비슷한 개념인가요?
좋은 정보 감사합니다

Reply

14일 전 | 맨텍 | 02-2136-6900

오라클의 어떤 제품을 말씀하시는건지 모르겠지만, 오토스케일의 개념은 같다고 보시면 됩니다!ㅎㅎ

Reply

댓글 남기기

댓글을 남기기 위해서는 로그인이 필요합니다.

로그인 회원가입

댓글 남기기

댓글을 남기기 위해서는 로그인이 필요합니다.

로그인 회원가입