[論文レビュー] Coded FFT and Its Communication Overhead

Haewon Jeong, Tze Meng Low+1 more|arXiv (Cornell University)|May 24, 2018

Advanced Data Storage Technologies参考文献 29被引用数 6

ひとこと要約

この論文は、分散FFT計算における耐障害性を向上させるために、系統的MDS符号を用いた符号化FFTアルゴリズムを提案する。通信効率の良いマルチブロードキャストおよびマルチリダクション方式を活用することで、奇数ノード数が o(log K) 未満である場合、符号化のオーバーヘッドが無視できるほど小さくなることが示され、通信が主なボトル neck となる大規模なエクサスケールシステムにおいて実用的である。

ABSTRACT

We propose a coded computing strategy and examine communication costs of coded computing algorithms to make distributed Fast Fourier Transform (FFT) resilient to errors during the computation. We apply maximum distance separable (MDS) codes to a widely used "Transpose" algorithm for parallel FFT. In the uncoded distributed FFT algorithm, the most expensive step is a single "all-to-all" communication. We compare this with communication overhead of coding in our coded FFT algorithm. We show that by using a systematic MDS code, the communication overhead of coding is negligible in comparison with the communication costs inherent in an uncoded FFT implementation if the number of parity nodes is at most $o(\log K)$, where $K$ is the number of systematic nodes.

研究の動機と目的

• プロセッサ障害率の上昇に伴い顕在化するエクサスケール分散FFTにおける耐障害性の課題に対処すること。
• 高い障害確率を示す大規模システムにおいて、従来のチェックポイント/リスタート手法に起因する制限を克服すること。
• 広く使われている「トランスポーズ」アルゴリズムとシームレスに統合可能な符号化戦略を設計すること。
• 符号化によって引き起こされる通信オーバーヘッドを分析し、特に重要なすべて対すべて通信フェーズにおいて最小限に抑えること。
• 符号化オーバーヘッドが、符号化されていないFFTの固有の通信コストに対して無視できるようになる条件を確立すること。

提案手法

• K 個のシステムノードと P−K 個のパリティノードに分散配置された入力データに、系統的最大距離分離（MDS）符号を適用する。
• パラメータ α（1メッセージあたりのオーバーヘッド）および β（1シンボルあたりの帯域幅）を用いた線形モデルで通信コストをモデル化する。
• 2つの新しい通信プリミティブ、すなわち「マルチブロードキャスト」(p,r,n)（r 個の受信者にデータを配布）および「マルチリダクション」(p,r,n)（パリティシンボルを符号化）を導入・分析する。
• すべてのノードを集約する全集約操作とリダクション操作を用いた2段階のマルチブロードキャストアルゴリズムを設計し、理論的下界の2倍以内の通信コストを達成する。
• マルチブロードキャストの逆操作を用いて、パリティシンボルの符号化を実装するマルチリダクションを実装し、同等の通信コストを達成する。
• 符号化の通信コストを、符号化されていないFFTにおけるすべて対すべて通信コストと比較して、オーバーヘッドを評価する。

実験結果

リサーチクエスチョン

• RQ1 符号化を分散FFTの「トランスポーズ」アルゴリズムに適用することで、通信オーバーヘッドを著しく増大させることなく耐障害性を向上させることができるか？
• RQ2 符号化方式で用いられる新しいプリミティブ、すなわちマルチブロードキャストおよびマルチリダクションの通信コストはどの程度か？
• RQ3 符号化の通信オーバーヘッドが、符号化されていないFFTのネイティブ通信コストに対して無視できるようになる条件は何か？
• RQ4 パリティノードの数が、符号化FFTにおける耐障害性と通信効率のトレードオフにどのように影響を与えるか？
• RQ5 提案された符号化方式は、中央コordinaterが存在しない完全に分散型の共有メモリ非対応環境でも実装可能か？

主な発見

• 提案されたマルチリダクション方式を用いたパリティシンボルの符号化通信コストは、$ 2(\lceil\log_2 K\rceil\alpha + (P-K)\frac{N}{K}\beta) $ で抑えられ、理論的下界の2倍以内に収まる。
• 符号化されていないFFTにおけるすべて対すべて通信コストは、$ 2(\lceil\log_2 K\rceil\alpha + \frac{N}{2K}\lceil\log_2 K\rceil\beta) $ であり、主にトランスポーズ操作に起因する。
• パリティノード数 $ P-K $ が $ o(\log K) $ である場合、符号化の通信オーバーヘッドは、符号化されていないFFTの通信コストに対して無視できるようになる。
• 条件 $ P-K < \frac{1}{2}\log_2 K $ を満たせば、符号化コストが符号化されていないFFTのすべて対すべて通信コストを下回ることが保証される。
• 提案されたマルチブロードキャストおよびマルチリダクションアルゴリズムは、情報理論的下界の2倍以内という近似的最適な通信効率を達成する。
• 分析により、MDS符号化は通信ペナルティを最小限に抑えつつ、分散FFTに効果的に適用可能であることが確認され、大規模システムにおける実用的な耐障害性の実現が可能となる。