[논문 리뷰] A Monitoring System for the BaBar INFN Computing Cluster

Moreno Marzolla, V. Melloni|ArXiv.org|2003. 05. 29.

Distributed and Parallel Computing Systems참고 문헌 4인용 수 3

한 줄 요약

PerfMC는 SNMP를 사용하여 PC, 스위치, 테이프 라이브러리 등 다양한 장치에서 성능 데이터를 수집하는 경량이며 XML 기반의 모니터링 시스템입니다. 내장된 웹 서버를 통해 XSLT 변환을 통해 실시간 그래프와 사용자 정의 가능한 HTML/XML 상태 페이지를 생성하며, 약 10초 간격의 품질 검사로 최대 200대의 듀얼 CPU 머신으로 구성된 클러스터에 대해 낮은 오버헤드와 확장성을 달성합니다.

ABSTRACT

Monitoring large clusters is a challenging problem. It is necessary to observe a large quantity of devices with a reasonably short delay between consecutive observations. The set of monitored devices may include PCs, network switches, tape libraries and other equipments. The monitoring activity should not impact the performances of the system. In this paper we present PerfMC, a monitoring system for large clusters. PerfMC is driven by an XML configuration file, and uses the Simple Network Management Protocol (SNMP) for data collection. SNMP is a standard protocol implemented by many networked equipments, so the tool can be used to monitor a wide range of devices. System administrators can display informations on the status of each device by connecting to a WEB server embedded in PerfMC. The WEB server can produce graphs showing the value of different monitored quantities as a function of time; it can also produce arbitrary XML pages by applying XSL Transformations to an internal XML representation of the cluster's status. XSL Transformations may be used to produce HTML pages which can be displayed by ordinary WEB browsers. PerfMC aims at being relatively easy to configure and operate, and highly efficient. It is currently being used to monitor the Italian Reprocessing farm for the BaBar experiment, which is made of about 200 dual-CPU Linux machines.

연구 동기 및 목표

• 수백 개의 노드를 포함하는 대규모 고성능 컴퓨팅 클러스터를 효율적이고 비침습적으로 모니터링하는 도전 과제를 해결합니다.
• 종종 비공개 소스이거나 설정이 어려우며 고속 LAN 기반 클러스터에 부적합한 기존 모니터링 도구의 한계를 극복합니다.
• SNMP와 같은 표준 프로토콜을 통해 이질적인 장치를 지원하는 유연하고 확장 가능한 모니터링 솔루션을 제공합니다.
• XSLT 변환된 XML 출력을 통해 웹 기반으로 실시간 시각화 및 클러스터 상태 보고서를 제공합니다.
• 클러스터 성능에 영향을 주지 않도록 네트워크 및 시스템 오버헤드를 최소화하여, 특히 중간 수준의 품질 검사 주기에서도 안정성을 확보합니다.

제안 방법

• 모니터링 대상 및 매개변수를 정의하기 위해 XML 구성 파일을 사용하여 간편한 설정과 사용자 맞춤형 설정이 가능합니다.
• 각 장치에서 다수의 MIB 변수를 한 번의 라운드트립으로 효율적으로 검색하기 위해 SNMPv2 봉투 요청을 활용합니다. 이로 인해 네트워크 부하가 감소합니다.
• 내부 XML 상태 데이터를 XSLT 변환을 통해 동적으로 생성된 HTML 페이지를 제공하기 위해 PerfMC 내부에 경량 웹 서버를 통합합니다.
• 시간 시리즈 분석 및 그래프 생성을 위해 성능 메트릭을 라운드 로빈 데이터베이스(Round Robin Database, RRD) 파일에 저장합니다.
• Net-SNMP 프레임워크를 통해 사용자 정의 MIB를 허용함으로써 애플리케이션 수준의 메트릭을 모니터링할 수 있도록 확장성을 제공합니다.
• 각 모니터가 클러스터의 부분 집합을 관리하는 다층 아키텍처를 지원함으로써 수평적 확장성을 설계합니다.

실험 결과

연구 질문

• RQ1 어떻게 하면 성능 영향을 최소화하면서도 대규모 동일한 컴퓨팅 클러스터에 대해 효율적으로 확장 가능한 모니터링 시스템을 설계할 수 있을까요?
• RQ2 SNMP와 XML, XSLT와 같은 표준이고 개방된 프로토콜 및 확장 가능한 데이터 형식을 얼마나 효과적으로 활용하여 민첩하고 유지보수 용이한 모니터링 인fra를 구축할 수 있을까요?
• RQ3 고속 LAN 환경에서 다양한 장치(예: 서버, 스위치, 테이프 라이브러리)를 실시간으로 저오버헤드로 모니터링할 수 있는 아키텍처 패턴은 무엇일까요?
• RQ4 사용자 정의 클라이언트 소프트웨어가 필요 없이 표준 웹 기술을 통해 모니터링 데이터를 어떻게 시각화하고 노출할 수 있을까요?
• RQ5 매우 큰 클러스터에서 장애 내성 및 계층적 모니터링을 지원하기 위해 어떤 메커니즘이 사용될 수 있을까요?

주요 결과

• PerfMC는 약 10초 간격의 품질 검사 시, 모니터링 대상 장치와 네트워크에 거의 영향을 주지 않는 낮은 네트워크 및 시스템 오버헤드를 달성합니다.
• SNMPv2 봉투 작업의 사용은 다수의 MIB 변수에서 데이터를 수집하기 위해 필요한 패킷 수를 크게 줄여 효율성을 향상시킵니다.
• XSLT 변환 통합을 통해 사용자 정의 가능한 웹 기반 상태 보고서 및 대시보드를 커스터마이제이션 가능한 방식으로 생성할 수 있으며, 사용자 정의 웹 개발이 필요 없습니다.
• 현재 프로토타입에서 성능 병목 현상이 관측되지 않으며, 최대 200대의 듀얼 CPU 머신으로 구성된 클러스터에 대해 확장성 테스트를 통과했습니다.
• 저자들은 RRDTool의 업데이트 성능이 향후 확장성의 잠재적 병목이 될 수 있음을 지적하고, 클러스터를 여러 모니터로 분할하는 것을 장기적 솔루션으로 제안합니다.
• 임계값 기반 모니터링과 RMON 준수 SNMP 에이전트를 기반으로 한 경고 시스템을 계획 중이며, MIB 변수의 임계값과 호스트 응답 없음 감지를 모두 지원할 예정입니다.