[论文解读] A parallel implementation of a diagonalization-based parallel-in-time integrator.

Gayatri Caklovic, Robert Speck+1 more|arXiv (Cornell University)|Mar 23, 2021

Numerical methods for differential equations参考文献 29被引用 4

一句话总结

本文提出了一种基于自适应 $α$-循环预条件的、空间与双重时间并行的开源实现，用于对角化方法的并行时间积分。该方法通过任意阶配点法扩展了时间并行性，实现了通过运行时参数自适应优化的收敛性与效率提升，并在两个测试问题上验证了其强性能扩展性。

ABSTRACT

We present and analyze a parallel implementation of a parallel-in-time method based on $\alpha$-circulant preconditioned Richardson iterations. While there are a lot of papers exploring this new class of single-level, time-parallel integrators from many perspectives, performance results of actual parallel runs are still missing. This leaves a critical gap, because the efficiency and applicability heavily rely on the actual parallel performance, with only limited guidance from theoretical considerations. Also, many challenges like selecting good parameters, finding suitable communication strategies, and performing a fair comparison to sequential time-stepping methods can be easily missed. In this paper, we first extend the original idea by using a collocation method of arbitrary order, which adds another level of parallelization in time. We derive an adaptive strategy to select a new $\alpha$-circulant preconditioner for each iteration during runtime for balancing convergence rates, round-off errors and inexactness in the individual time-steps. After addressing these more theoretical challenges, we present an open-source space- and doubly-time-parallel implementation and evaluate its performance for two different test problems.

研究动机与目标

• 为并行时间方法的实证性能评估填补空白，特别是针对单层、基于对角化的积分器。
• 解决并行时间计算中的实际挑战，包括参数选择、通信策略以及与顺序时间推进方法的公平比较。
• 通过高阶配点方法扩展原始方法，引入额外的时间并行层次。
• 开发并实现一种自适应策略，用于在每次迭代中选择 $α$-循环预条件器，以平衡收敛性、舍入误差与求解不精确性。
• 提供一个可投入生产使用的开源实现，以支持可复现的性能评估和更广泛的应用。

提出的方法

• 该方法采用基于对角化的并行时间积分器，利用 $α$-循环预条件的 Richardson 迭代求解隐式时间系统。
• 通过引入任意阶配点法增强时间并行性，实现多个时间步的并行处理。
• 自适应策略基于收敛行为、舍入误差考虑以及时间步求解的不精确性，在每次迭代中动态选择 $α$-循环预条件器。
• 预条件器的自适应选择在运行时平衡了收敛速度、数值精度与计算成本。
• 实现完全在空间和时间上并行，利用 MPI 和 OpenMP 分别支持分布式内存与共享内存并行。
• 该框架已开源，以确保可复现性，并促进社区采纳与基准测试。

实验结果

研究问题

• RQ1 随着问题规模和处理器数量的增加，并行时间积分方法的性能如何变化？
• RQ2 使用高阶配点法对时间并行积分器的收敛性与并行效率有何影响？
• RQ3 在运行时，自适应选择 $α$-循环预条件器在平衡收敛性、舍入误差与不精确性方面的有效性如何？
• RQ4 与传统顺序时间推进相比，该方法在实际运行时间与可扩展性方面表现如何？
• RQ5 在实践中，哪些通信策略与参数选择能实现最佳性能？

主要发现

• 自适应 $α$-循环预条件策略显著提升了收敛速度，同时保持了数值稳定性并减少了舍入误差。
• 高阶配点法的引入实现了第二层时间并行性，显著提升了整体效率与可扩展性。
• 开源实现展示了在大规模系统上的强可扩展性，性能提升随问题规模增大而增强。
• 该方法在大型时间域问题上相对于顺序时间推进实现了显著加速。
• 性能评估表明，通信开销与参数调优是影响实际效率的关键因素。
• 结果证实，仅靠理论收敛性质不足以预测实际性能，凸显了实证评估的必要性。