[論文レビュー] Distributing an Exact Algorithm for Maximum Clique: maximising the costup

Ciaran McCreesh, Patrick Prosser|ENLIGHTEN (Jurnal Bimbingan dan Konseling Islam)|Sep 20, 2012

Cryptography and Data Security参考文献 26被引用数 48

ひとこと要約

本論文では、最大クリーク問題のMC正確アルゴリズムの軽量で分散型の拡張を提示しており、最小限のコード変更でネットワーク接続されたマシンのクラスタ上で効率的な並列実行を可能にしている。検索空間を独立した部分問題に分解し、SSHとNFSを活用することで、50台のマシンで最大42.3倍の高速化を達成した。これは、低開発コストで顕著な性能向上を実現したことを示している。

ABSTRACT

We take an existing implementation of an algorithm for the maximum clique problem and modify it so that we can distribute it over an ad-hoc cluster of machines. Our goal was to achieve a significant speedup in performance with minimal development effort, i.e. a maximum costup. We present a simple modification to a state-of-the-art exact algorithm for maximum clique that allows us to distribute it across many machines. An empirical study over large hard benchmarks shows that speedups of an order of magnitude are routine for 25 or more machines.

研究の動機と目的

• 未使用のマシンを活用したクラスタ上で既存の正確最大クリークアルゴリズムを分散化し、コストの増加を上回る性能向上（コストパフォーマンス向上）を達成すること。
• アルゴリズムのコアロジックを変更せずに、SSH、NFS、Javaのみを用いて開発作業を最小限に抑えつつ、性能向上を最大化すること。
• 実際の制約（ネットワークI/O、マシンの不安定性など）を想定した状況下で、硬い最大クリークベンチマークに対する粗粒度タスク分散の有効性を評価すること。
• アドホッククラスタ環境における、分散粒度、フォールトトレランス、パフォーマンスボトルネックの実用的トレードオフを検討すること。

提案手法

• アルゴリズムMCを変更し、検索空間を独立した部分問題に分割。各部分問題をSSH経由で別々のマシンに割り当て、共有のNFSマウントディレクトリを介して結果を集約する。
• 各ワーカープロセスは、初期候補集合から導かれる別個の部分問題上で、元のMCアルゴリズムを実行し、色ベースの上界を用いて探索木を刈り込む。
• 競合を低減するためタスクをランダム順に配分。各タスクの開始時に現在までの最良クリークを読み込み、終了時に書き込むことで、グローバルな進行状況を伝搬可能にする。
• NFSの永続性を活用したフォールトトレランスを実現。失敗したタスクは、共有結果ディレクトリに欠落した結果を特定することで再実行可能。
• 2段階の分解を採用：第1段階は初期頂点選択に基づく検索空間の分割、第2段階は残りの部分問題をさらに細分化して負荷分散を図る。
• 最良クリークの状態を共有ファイルに記録し、定期的な更新で長尾遅延を低減するが、NFSロックの制限により更新頻度が制限される。

実験結果

リサーチクエスチョン

• RQ1 既存の正確最大クリークアルゴリズムに最小限の変更を加えることで、異種で専用でないマシンのネットワーク上で分散化した場合、顕著な高速化を達成できるか？
• RQ2 共有ストレージとSSHベースのタスク分散を採用するクラスタ環境において、分散I/Oおよびネットワーク通信のオーバーヘッドがスケーラビリティをどの程度制限するか？
• RQ3 タスクの粒度選択が、負荷分散および全体的なパフォーマンスに与える影響は何か。特に長尾部分問題が存在する状況での影響は？
• RQ4 マシンのダウンタイムや制限された共有リソースといった実世界の制約下でも、性能向上がコスト増加を上回る「意味のあるコストパフォーマンス向上」を達成できるか？

主な発見

• frb35-17-3インスタンスでは50台のマシンを用いて最大42.3倍の高速化を達成。合計実行時間は11時間で、単一マシンでは13日以上を要した。
• frb35-17-1インスタンスでは、分散システムで7時間未満で問題を解消したが、単一マシンでは1週間以上を要した。顕著な性能向上が確認された。
• ハードベンチマークでは25台以上のマシンを用いることで、通常10倍の高速化が達成され、本アプローチのスケーラビリティが裏付けられた。
• I/Oおよびネットワークオーバーヘッドが顕著であったが、NFSの永続性のおかげでマシン障害に対しても堅牢であり、失敗タスクは最小限の混乱で再実行可能だった。
• 一部のケースでは長尾問題が継続的に発生し、少数の部分問題が実行時間を圧倒する傾向があった。これにより、さらなる高速化には細粒度の分散やワーキングステール方式の導入が不可欠であると示唆された。
• 著者らは、性能向上が使用するマシン数の増加に比べて著しく上回ったことから、本アプローチが顕著なコストパフォーマンス向上を達成したと結論づけた。