[論文レビュー] RAO-SS: A Prototype of Run-time Auto-tuning Facility for Sparse Direct Solvers

Takahiro Katagiri, Yoshinori Ishii+1 more|arXiv (Cornell University)|Aug 21, 2024

Parallel Computing and Optimization Techniques参考文献 2被引用数 3

ひとこと要約

本稿では、入力行列の特徴に基づいて実行時において最適なソルバーパラメータを動的に選択するためのランタイム自動チューニングシステム RAO-SS を提示する。このシステムは、Autopilot ミドルウェアを介してファジィ論理を用いて、スパース直接解法器のパラメータを最適化する。SuperLU に対して評価した結果、デフォルト設定に対して平均で 1.2 倍の高速化と最大で 3.6 倍の高速化を達成し、ソフトウェアのオーバーヘッドは無視できるほど小さい。

ABSTRACT

In this paper, a run-time auto-tuning method for performance parameters according to input matrices is proposed. RAO-SS (Run-time Auto-tuning Optimizer for Sparse Solvers), which is a prototype of auto-tuning software using the proposed method, is also evaluated. The RAO-SS is implemented with the Autopilot, which is middle-ware to support run-time auto-tuning with fuzzy logic function. The target numerical library is the SuperLU, which is a sparse direct solver for linear equations. The result indicated that: (1) the speedup factors of 1.2 for average and 3.6 for maximum to default executions were obtained; (2) the software overhead of the Autopilot can be ignored in RAO-SS.

研究の動機と目的

• スパース直接解法器のパフォーマンス最適化パラメータを、多様な入力行列に対して選択する課題に対処すること。
• 行列の性質に基づいて実行時においてパラメータを適応的に調整することで、パフォーマンスのばらつきを低減し、ソルバー効率を向上させること。
• ランタイム自動チューニングをスパース線形ソルバーに統合する可能性と有効性を検証し、実行時のコストを最小限に抑えること。
• ファジィ論理を用いた自動チューニングが、顕著なソフトウェアオーバーヘッドを伴わずにソルバーのパフォーマンスを大幅に向上させられることを示すこと。

提案手法

• RAO-SS は、実行時におけるパラメータ選択を支援するために、ファジィ論理関数を用いる Autopilot ミドルウェアを採用している。
• システムは、スパース性のパターン、条件数、サイズなどの入力行列の特徴を分析して、チューニング意思決定の根拠とする。
• ファジィ論理ルールを定義し、行列の特徴を最適なソルバーパラメータ設定にマッピングする。
• この方法により、実行中にパラメータを動的に調整し、異なる行列タイプに適応可能となる。
• プロトタイプは、実世界の行列を対象にパフォーマンス評価を実施するため、SuperLU スパース直接ソルバーに統合されている。
• ソフトウェアオーバーヘッドは測定され、無視できるほど小さいことが示され、実用的な展開が可能であることが確認された。

実験結果

リサーチクエスチョン

• RQ1 行列の特徴に基づいたランタイム自動チューニングが、スパース直接解法器のパフォーマンスを顕著に向上させることができるか？
• RQ2 ファジィ論理に基づくアプローチは、多様な行列タイプにわたり、最適なソルバーパラメータを効果的に選択できるか？
• RQ3 リアルタイム実行において、自動チューニングミドルウェアが引き起こすパフォーマンスオーバーヘッドはどの程度か？
• RQ4 動的パラメータチューニングは、静的デフォルト設定と比較して、パフォーマンスのばらつきをどの程度低減できるか？

主な発見

• RAO-SS は、テストされた行列全体でデフォルトのソルバーパラメータ設定に対して平均で 1.2 倍の高速化を達成した。
• 特定の行列タイプでは最大で 3.6 倍の高速化が観測され、顕著なパフォーマンス向上が示された。
• Autopilot ミドルウェアによって導入されたソフトウェアオーバーヘッドは無視できるほど小さく、実行時のコストが最小限であることが判明した。
• ファジィ論理に基づくチューニング戦略は、行列固有の特性に適応したソルバーパラメータの調整を効果的に実現した。
• 結果から、ランタイム自動チューニングが、効率を損なわずにソルバーのパフォーマンスを大幅に向上させられることを確認した。