[论文解读] Resilience Design Patterns: A Structured Approach to Resilience at Extreme Scale

Saurabh Hukerikar, Christian Engelmann|QRU Quaderns de Recerca en Urbanisme|Aug 23, 2017

Radiation Effects in Electronics被引用 4

一句话总结

本文提出了一套用于在极端规模高性能计算（HPC）系统中设计弹性能力的结构化方法，采用弹性设计模式——可重用的、形式化的常见故障、错误和失效问题解决方案。通过将经过验证的HPC弹性技术组织为模式目录和组合式设计框架，该方法实现了跨硬件和软件层的弹性解决方案的系统性集成、优化和可移植性，提升了保护覆盖范围、性能和能效，同时支持在设计阶段进行权衡分析。

ABSTRACT

Reliability is a serious concern for future extreme-scale high-performance computing (HPC) systems. While the HPC community has developed various resilience solutions, the solution space remains fragmented. There are no formal methods and metrics to integrate the various HPC resilience techniques into composite solutions, nor are there methods to holistically evaluate the adequacy and efficacy of such solutions in terms of their protection coverage, and their performance & power efficiency characteristics. In this paper, we develop a structured approach to the design, evaluation and optimization of HPC resilience using the concept of design patterns. A design pattern is a general repeatable solution to a commonly occurring problem. We identify the problems caused by various types of faults, errors and failures in HPC systems and the techniques used to deal with these events. Each well-known solution that addresses a specific HPC resilience challenge is described in the form of a pattern. We develop a complete catalog of such resilience design patterns, which may be used as essential building blocks when designing and deploying resilience solutions. We also develop a design framework that enhances a designer's understanding the opportunities for integrating multiple patterns across layers of the system stack and the important constraints during implementation of the individual patterns. It is also useful for defining mechanisms and interfaces to coordinate flexible fault management across hardware and software components. The overall goal of this work is to establish a systematic methodology for the design and evaluation of resilience technologies in extreme-scale HPC systems that keep scientific applications running to a correct solution in a timely and cost-efficient manner despite frequent faults, errors, and failures of various types.

研究动机与目标

• 解决HPC弹性解决方案目前分散且缺乏协调的问题，这些方案缺乏正式的集成方法和整体评估指标。
• 开发一种结构化、可重用的框架，将各类弹性技术——包括应用级和系统级——统一为一致的设计方法论。
• 使系统架构师、软件开发人员和应用程序员能够使用标准化、可移植的模式，在不断演进的软硬件堆栈中组合弹性解决方案。
• 通过系统性地分析性能、保护覆盖范围和功耗之间的权衡，优化弹性解决方案。
• 通过将最佳实践形式化为基于模式的设计框架，为未来极端规模HPC的弹性工程提供基础。

提出的方法

• 识别极端规模HPC系统中反复出现的弹性问题，例如由于技术缩放和近阈值电压运行导致的瞬态错误和硬错误。
• 将已知的HPC弹性技术（如检查点、复制、错误检测和恢复）形式化为具有标准化结构和语义的可重用设计模式。
• 将这些模式组织为分层的、分层的目录，以反映系统堆栈各层和抽象级别之间的关系。
• 开发一种设计框架，支持多种模式的组合、硬件与软件之间机制的协调，以及实现约束的管理。
• 利用该框架探索设计备选方案，评估解决方案的有效性，并针对性能、弹性覆盖范围和能效进行优化。
• 应用基于模式的方法，指导未来架构中新型弹性解决方案的开发以及现有解决方案的重构。

实验结果

研究问题

• RQ1 如何将极端规模HPC系统中的弹性技术系统性地整合为复合的、可扩展的解决方案？
• RQ2 何种正式结构和分类方法能够将多样化的HPC弹性解决方案统一为一个连贯、可重用的框架？
• RQ3 如何在硬件和软件层之间组合弹性模式，以确保灵活性、可移植性和协调性？
• RQ4 如何利用这种基于模式的方法系统性地评估和优化性能、保护覆盖范围和功耗之间的权衡？
• RQ5 该方法在多大程度上能够提升未来HPC系统中弹性解决方案的设计、评估和演化？

主要发现

• 本文建立了一个全面的弹性设计模式目录，将已知的常见HPC故障、错误和失效问题的解决方案编码化，实现了可重用性和标准化。
• 模式的分层组织方式使设计人员能够根据抽象层次工作，从系统架构师到底层组件开发人员均可适用。
• 所提出的框架支持将多种模式组合为完整的弹性解决方案，同时管理跨层依赖关系和约束。
• 基于模式的方法支持对弹性解决方案进行系统性探索和优化，尤其在平衡性能、保护覆盖范围和功耗方面表现突出。
• 该方法通过形式化最佳实践，为未来极端规模HPC的弹性工程提供了基础，支持可移植、可扩展的解决方案。
• 该框架增强了弹性解决方案在不断演进的硬件和软件环境中的可移植性和适应性，包括未来的百亿亿次计算系统。