[论文解读] GridMonitor: Integration of Large Scale Facility Fabric Monitoring with Meta Data Service in Grid Environment

Richard S. Baker, Dantong Yu+4 more|ArXiv.org|Jun 13, 2003

Distributed and Parallel Computing Systems参考文献 10被引用 4

一句话总结

GridMonitor 提出了一种可扩展的四层监控架构，将大规模设施监控与网格元数据服务（MDS）相结合，实现在地理分布的多个设施中对异构计算、存储和网络资源进行实时、自适应的监控。该系统利用现有工具（如 NWS、SNMP 和 GMA），并通过 MDS 实现标准化、动态的资源状态发现与发布，已在布鲁克海文国家实验室的一个10个集群设施中成功部署于1,000多个节点。

ABSTRACT

Grid computing consists of the coordinated use of large sets of diverse, geographically distributed resources for high performance computation. Effective monitoring of these computing resources is extremely important to allow efficient use on the Grid. The large number of heterogeneous computing entities available in Grids makes the task challenging. In this work, we describe a Grid monitoring system, called GridMonitor, that captures and makes available the most important information from a large computing facility. The Grid monitoring system consists of four tiers: local monitoring, archiving, publishing and harnessing. This architecture was applied on a large scale linux farm and network infrastructure. It can be used by many higher-level Grid services including scheduling services and resource brokering.

研究动机与目标

• 解决在网格环境中监控大规模、异构且动态变化的计算设施的挑战。
• 降低系统开销，提升对成千上万个地理分布节点的监控可扩展性。
• 实现底层设施监控与高层网格服务（如作业调度器和资源代理）之间的无缝集成。
• 通过提供自适应、可扩展的监控基础设施，支持资源的动态参与与退出。
• 通过 MDS 和 GMA 提供标准化、可访问的监控数据，提升故障检测、性能调优和资源调度能力。

提出的方法

• 该系统采用四层架构：本地监控、归档、发布和集成，实现模块化且可扩展的数据采集与分发。
• 本地监控代理从节点收集实时指标（CPU、磁盘、网络）并通过遥测数据库转发至集中式数据存储。
• 集成网络天气服务（NWS），利用主动探测和历史数据，提供短期性能预测，涵盖 CPU 可用性、延迟和带宽。
• 采用基于 SNMP 的传感器实现轻量级、可扩展的网络与设备监控，利用广泛部署的标准以确保广泛的硬件兼容性。
• 通过基于 LDAP 的分层存储机制，利用监控与发现服务（MDS）发布监控数据，实现资源的动态注册与发现。
• 使用网格监控架构（GMA）支持流式发布/订阅通信，使调度器和故障检测系统等消费者能够实时接收事件。

实验结果

研究问题

• RQ1 如何使监控系统高效扩展，以监控大型计算设施中多个集群的1,000多个异构节点？
• RQ2 哪些架构模式能够实现底层设施监控与高层网格元数据服务（如 MDS）之间的无缝集成？
• RQ3 监控系统如何应对网格资源的动态特性，包括节点的加入与退出？
• RQ4 现有工具（如 NWS、SNMP 和 GMA）在构建稳健、可扩展且低开销的监控基础设施中发挥何种作用？
• RQ5 基于标准化、发布/订阅机制的监控在分布式网格环境中，能在多大程度上提升资源发现、调度与故障检测能力？

主要发现

• GridMonitor 在布鲁克海文国家实验室的一个10个集群设施中成功监控了超过1,000个节点，证明了其在大规模 Linux 计算农场和网络基础设施中的可扩展性。
• NWS 的集成实现了基于主动探测和历史数据的网络性能准确短期预测，涵盖端到端延迟和带宽。
• 基于 SNMP 的传感器被有效用于监控网络和设备状态，系统开销极低，确保了广泛的硬件兼容性。
• MDS 的使用实现了资源的动态注册与发现，使新节点和服务能够被自动检测并发布到网格信息系统中。
• 基于 GMA 的流式模型支持向消费者实时推送事件，相比轮询模型，显著提升了调度和故障检测的响应速度。
• 四层架构成功将设施监控与网格级操作解耦，使监控工具与网格服务能够独立演进。