[论文解读] A Monitoring System for the BaBar INFN Computing Cluster

Moreno Marzolla, V. Melloni|ArXiv.org|May 29, 2003

Distributed and Parallel Computing Systems参考文献 4被引用 3

一句话总结

PerfMC 是一种轻量级、基于 XML 的监控系统，专为大型计算集群设计，通过 SNMP 从各类设备（包括 PC、交换机和磁带库）收集性能数据。它内嵌一个 Web 服务器，利用 XSLT 将内部 XML 状态数据转换为实时图表和可自定义的 HTML/XML 状态页面，实现低开销与可扩展性，适用于最多 200 台双 CPU 机器的集群，轮询间隔约为 10 秒。

ABSTRACT

Monitoring large clusters is a challenging problem. It is necessary to observe a large quantity of devices with a reasonably short delay between consecutive observations. The set of monitored devices may include PCs, network switches, tape libraries and other equipments. The monitoring activity should not impact the performances of the system. In this paper we present PerfMC, a monitoring system for large clusters. PerfMC is driven by an XML configuration file, and uses the Simple Network Management Protocol (SNMP) for data collection. SNMP is a standard protocol implemented by many networked equipments, so the tool can be used to monitor a wide range of devices. System administrators can display informations on the status of each device by connecting to a WEB server embedded in PerfMC. The WEB server can produce graphs showing the value of different monitored quantities as a function of time; it can also produce arbitrary XML pages by applying XSL Transformations to an internal XML representation of the cluster's status. XSL Transformations may be used to produce HTML pages which can be displayed by ordinary WEB browsers. PerfMC aims at being relatively easy to configure and operate, and highly efficient. It is currently being used to monitor the Italian Reprocessing farm for the BaBar experiment, which is made of about 200 dual-CPU Linux machines.

研究动机与目标

• 解决高效且非侵入式地监控数百个节点的大型高性能计算集群的挑战。
• 克服现有监控工具通常为闭源、难以配置或不适合基于高速局域网的集群的局限性。
• 提供一种灵活、可扩展的监控解决方案，通过 SNMP 等标准协议支持异构设备。
• 利用基于 Web 的 XSLT 转换 XML 输出，实现实时可视化和集群状态报告。
• 确保低网络和系统开销，避免影响集群性能，尤其是在中等轮询频率下。

提出的方法

• 使用 XML 配置文件定义监控目标和参数，实现简便的设置与自定义。
• 采用 SNMPv2 批量请求机制，通过单次往返通信高效获取每个设备的多个 MIB 变量，最大限度减少网络负载。
• 在 PerfMC 内部嵌入轻量级 Web 服务器，通过 XSLT 转换内部 XML 状态数据生成动态 HTML 页面。
• 将性能指标存储在轮询数据库（RRD）文件中，用于时序分析和图表生成。
• 通过 Net-SNMP 框架支持自定义 MIB，实现对应用级指标的监控，具备可扩展性。
• 通过支持分层架构（多个监控器分别管理集群子集）实现水平可扩展性。

实验结果

研究问题

• RQ1 如何设计一种监控系统，使其在大型同构计算集群中实现高效扩展，同时对性能影响极小？
• RQ2 在构建灵活且可维护的监控基础设施时，标准开放协议（如 SNMP）和可扩展数据格式（如 XML 和 XSLT）能够发挥多大作用？
• RQ3 哪些架构模式能够实现在高速局域网环境中对多样化设备（如服务器、交换机、磁带库）的低开销、实时监控？
• RQ4 如何通过标准 Web 技术可视化并暴露监控数据，而无需依赖定制客户端软件？
• RQ5 可采用哪些机制扩展系统以支持超大规模集群中的故障容错和分层监控？

主要发现

• PerfMC 实现了低网络和系统开销，在轮询间隔约为 10 秒时，对被监控设备和网络的影响可忽略不计。
• 使用 SNMPv2 批量操作显著减少了收集多个 MIB 变量所需的数据包数量，提升了效率。
• 通过 XSLT 转换的集成机制，实现了无需定制 Web 开发的动态、可自定义的基于 Web 的状态报告和仪表板。
• 该系统在最多 200 台双 CPU 机器的集群中表现出可扩展性，当前原型中未观察到性能瓶颈。
• 作者识别出 RRDTool 的更新性能可能是可扩展性瓶颈，并提出通过将集群划分为多个监控器来作为长期解决方案。
• 计划实现基于阈值监控和符合 RMON 的 SNMP 代理的报警系统，支持 MIB 变量阈值和主机无响应检测。