[论文解读] RAO-SS: A Prototype of Run-time Auto-tuning Facility for Sparse Direct Solvers

Takahiro Katagiri, Yoshinori Ishii+1 more|arXiv (Cornell University)|Aug 21, 2024

Parallel Computing and Optimization Techniques参考文献 2被引用 3

一句话总结

本文提出 RAO-SS，一种用于稀疏直接求解器的运行时自动调优系统，通过 Autopilot 中间件使用模糊逻辑，根据输入矩阵特征动态选择最优求解器参数。在 SuperLU 上评估，RAO-SS 相较于默认配置实现了平均 1.2 倍的加速，最大加速达 3.6 倍，且软件开销可忽略不计。

ABSTRACT

In this paper, a run-time auto-tuning method for performance parameters according to input matrices is proposed. RAO-SS (Run-time Auto-tuning Optimizer for Sparse Solvers), which is a prototype of auto-tuning software using the proposed method, is also evaluated. The RAO-SS is implemented with the Autopilot, which is middle-ware to support run-time auto-tuning with fuzzy logic function. The target numerical library is the SuperLU, which is a sparse direct solver for linear equations. The result indicated that: (1) the speedup factors of 1.2 for average and 3.6 for maximum to default executions were obtained; (2) the software overhead of the Autopilot can be ignored in RAO-SS.

研究动机与目标

• 解决在多样化输入矩阵上为稀疏直接求解器选择最优性能参数的挑战。
• 通过根据矩阵特性在运行时动态调整参数，减少性能波动并提高求解器效率。
• 评估将运行时自动调优集成到稀疏线性求解器中的可行性与有效性，且运行时成本极低。
• 证明基于模糊逻辑的自动调优可显著提升求解器性能，而不会引入显著的软件开销。

提出的方法

• RAO-SS 使用 Autopilot 中间件，该中间件通过模糊逻辑函数在运行时引导参数选择。
• 系统分析输入矩阵特征，如稀疏模式、条件数和大小，以指导调优决策。
• 定义模糊逻辑规则，将矩阵特征映射到最优求解器配置参数。
• 该方法在执行过程中动态调整参数，实现对不同类型矩阵的自适应。
• 原型已与 SuperLU 稀疏直接求解器集成，用于在真实世界矩阵上评估性能。
• 测量并证明了软件开销可忽略不计，确认了其实际可部署性。

实验结果

研究问题

• RQ1 基于矩阵特征的运行时自动调优能否显著提升稀疏直接求解器的性能？
• RQ2 基于模糊逻辑的方法在多种类型矩阵上选择最优求解器参数的效率如何？
• RQ3 自动调优中间件在实时执行中引入的性能开销有多大？
• RQ4 与静态默认配置相比，动态参数调优在多大程度上能减少性能波动？

主要发现

• 在测试的矩阵上，RAO-SS 相较于默认求解器配置实现了平均 1.2 倍的加速。
• 对于特定矩阵类型，观察到的最大加速达到 3.6 倍，表明性能显著提升。
• Autopilot 中间件引入的软件开销被证明可忽略不计，表明运行时成本极低。
• 基于模糊逻辑的调优策略能有效根据矩阵特性自适应调整求解器参数。
• 结果证实，运行时自动调优可显著提升求解器性能，且不会损害效率。