[论文解读] A Survey of Fault-Tolerance and Fault-Recovery Techniques in Parallel Systems

Michael Treaster|ArXiv.org|Jan 1, 2005

Distributed systems and fault tolerance参考文献 33被引用 81

一句话总结

本综述全面概述了大规模集群系统中的容错与故障恢复技术，重点聚焦于管理组件的冗余机制以及计算节点的检查点/回滚恢复技术。通过评估软件库、中间件和系统级扩展等实现方法，表明在故障频发的并行环境中，多样化、分层的策略对于系统鲁棒性至关重要。

ABSTRACT

Supercomputing systems today often come in the form of large numbers of commodity systems linked together into a computing cluster. These systems, like any distributed system, can have large numbers of independent hardware components cooperating or collaborating on a computation. Unfortunately, any of this vast number of components can fail at any time, resulting in potentially erroneous output. In order to improve the robustness of supercomputing applications in the presence of failures, many techniques have been developed to provide resilience to these kinds of system faults. This survey provides an overview of these various fault-tolerance techniques.

研究动机与目标

• 分析并分类大规模集群系统中高组件故障率下必不可少的容错机制。
• 识别并比较不同故障模型（拜占庭、崩溃停止、崩溃延迟）的优缺点，以指导容错设计。
• 评估容错的各种实现策略，包括软件库、编程语言扩展和系统级中间件。
• 评估不同容错部署模型在易用性、可移植性和系统集成性之间的权衡。
• 为开发人员和系统架构师提供基础，使其可根据应用需求和系统约束选择合适的容错技术。

提出的方法

• 将故障类型分类为集中式组件故障（如管理节点）和计算节点故障（如进程崩溃），每类故障需采用不同的保护策略。
• 引入并比较三种故障模型：拜占庭（任意恶意行为）、崩溃停止（停止运行并可检测）和崩溃延迟（性能下降但继续正确运行）。
• 回顾集中式组件的冗余解决方案，通过多个副本确保在单个组件失效时仍能保持连续性。
• 详细说明长时运行应用程序的检查点与回滚恢复机制，包括协调式与独立式检查点协议。
• 分析实现技术：带API的软件库、面向对象的元对象、容错编程语言、操作系统级扩展，以及基于预处理器的代码生成。
• 评估基于中间件的方法，通过后台守护进程透明地监控和管理故障容错，覆盖各类应用程序。

实验结果

研究问题

• RQ1 不同故障模型（拜占庭、崩溃停止、崩溃延迟）如何影响集群系统中容错机制的设计与有效性？
• RQ2 集中式组件的冗余保护与计算节点的检查点恢复之间存在哪些权衡？
• RQ3 各种实现策略（如软件库、中间件、语言扩展）如何影响开发人员的易用性、系统集成性以及容错覆盖范围？
• RQ4 崩溃延迟模型在不牺牲分析可 tractability 的前提下，如何在现实系统故障建模中优于崩溃停止模型？
• RQ5 在大规模集群中，确保应用层与底层系统基础设施容错性的关键挑战是什么？

主要发现

• 崩溃停止模型可实现自动故障检测，因其实现简单而被广泛采用，但无法检测内存损坏等细微故障。
• 拜占庭模型最具攻击性，要求至少 3m+1 个节点才能容忍 m 个故障，但在实际集群系统中通常过于严格。
• 崩溃延迟模型提供了一个现实的折中方案，允许性能下降但保持正确功能，从而增强实际容错建模的合理性。
• 冗余是保护管理节点或存储节点等集中式组件的主要技术，通过复制实现故障转移与一致性。
• 检查点与回滚恢复是保护计算节点上长时运行应用程序的主导技术，配有协调状态保存与恢复的协议。
• 软件库与中间件提供了实用且可部署的容错解决方案，其中中间件提供透明保护，而软件库通过API实现细粒度控制。