[论文解读] Data-Driven Execution of Fast Multipole Methods

Hatem Ltaief, Rio Yokota|arXiv (Cornell University)|Mar 5, 2012

Parallel Computing and Optimization Techniques参考文献 3被引用 12

一句话总结

本文提出了一种基于数据驱动的快速多极方法（FMM）执行模型，利用QUARK运行时系统通过计算任务的有向无环图（DAG）实现动态、异步的任务调度。通过将FMM的各个阶段分解为细粒度、数据依赖的任务，并借助广度优先的树遍历实现负载均衡，该方法在16核英特尔至强系统上实现了线性加速，优于在不规则、自适应树结构场景下的静态负载均衡策略。

ABSTRACT

Fast multipole methods have O(N) complexity, are compute bound, and require very little synchronization, which makes them a favorable algorithm on next-generation supercomputers. Their most common application is to accelerate N-body problems, but they can also be used to solve boundary integral equations. When the particle distribution is irregular and the tree structure is adaptive, load-balancing becomes a non-trivial question. A common strategy for load-balancing FMMs is to use the work load from the previous step as weights to statically repartition the next step. The authors discuss in the paper another approach based on data-driven execution to efficiently tackle this challenging load-balancing problem. The core idea consists of breaking the most time-consuming stages of the FMMs into smaller tasks. The algorithm can then be represented as a Directed Acyclic Graph (DAG) where nodes represent tasks, and edges represent dependencies among them. The execution of the algorithm is performed by asynchronously scheduling the tasks using the QUARK runtime environment, in a way such that data dependencies are not violated for numerical correctness purposes. This asynchronous scheduling results in an out-of-order execution. The performance results of the data-driven FMM execution outperform the previous strategy and show linear speedup on a quad-socket quad-core Intel Xeon system.

研究动机与目标

• 为解决由于粒子分布不规则和自适应树结构导致的快速多极方法（FMM）中的负载不平衡问题。
• 通过用动态任务调度替代静态负载均衡，提升FMM在共享内存多核系统上的性能与可扩展性。
• 证明基于运行时系统（如QUARK）的数据驱动执行可在不规则、计算密集型内核中实现高性能与高生产力。
• 评估任务粒度与队列大小对动态调度开销与可扩展性的影响。

提出的方法

• 将FMM算法表示为有向无环图（DAG），其中节点为计算任务，边表示数据依赖关系。
• 通过双重树结构的广度优先遍历生成大小近似相等的任务单元，以实现更好的负载均衡。
• 通过QUARK运行时系统异步调度任务，该系统在尊重数据依赖关系的同时支持乱序执行。
• 通过设置队列大小（Q）来配置任务生成阈值，以控制任务粒度并分摊调度开销。
• 将该方法应用于FMM中最计算密集的阶段，特别是M2L（多极到局部）和P2P（粒子到粒子）内核。
• 通过调节展开阶数（p）和问题规模（N）来评估可扩展性与性能。

实验结果

研究问题

• RQ1 使用动态运行时进行数据驱动任务调度，能否改善具有不规则和自适应树结构的FMM中的负载均衡？
• RQ2 由队列大小（Q）控制的任务粒度如何影响FMM执行的性能与可扩展性？
• RQ3 通过QUARK实现的动态调度是否优于基于前一步工作量估计的静态负载均衡策略？
• RQ4 为使动态任务调度的开销得以分摊，所需的最小问题规模（N）和任务大小比（N/Q）是多少？
• RQ5 在16核共享内存系统上，使用数据驱动的FMM执行能否实现线性加速？

主要发现

• 在p=9、N=10^7和Q=10,000的条件下，数据驱动的FMM实现达到了16核上的100%并行效率（线性加速）。
• 强可扩展性结果表明，增大问题规模（N）可提升可扩展性，尤其当N/Q > 100时，调度开销得以有效分摊。
• 该方法通过动态适应不规则树结构与工作量不平衡，优于静态负载均衡策略。
• 使用广度优先遍历生成任务可实现更均匀的任务大小与更高的数据级并行度，优于深度优先遍历。
• 更高的展开阶数（p）提升了操作强度，由于算术强度更高，可略微改善可扩展性。
• 执行跟踪显示各线程间负载极小，证实即使在不规则树结构下，也能实现有效的动态负载分配。