[論文レビュー] A parallel framework for reverse search using mts

David Avis, Charles Jordan|arXiv (Cornell University)|Oct 25, 2016

Algorithms and Data Compression参考文献 5被引用数 6

ひとこと要約

本稿では、従来の逐次コードを最小限の変更でラップすることで、リバースサーチアルゴリズムの並列化を可能にする汎用的なCフレームワーク mts を提案する。MPI を用いて、192コアでほぼ線形のスループット向上を達成した。ツリー探索タスクをワーカーに分散し、動的予算割り当てと効率的なロードバランスのための適応的ジョブスケジューリングおよびメッセージ追跡を実現した。

ABSTRACT

We describe mts, which is a generic framework for parallelizing certain types of tree search programs, that (a) provides a single common wrapper containing all of the parallelization, and (b) minimizes the changes needed to the existing single processor legacy code. The mts code was derived from ideas used to develop mplrs, a parallelization of the reverse search vertex enumeration code lrs. The tree search properties required for the use of mts are satisfied by any reverse search algorithm as well as other tree search methods such as backtracking and branch and bound. mts is programmed in C, uses the MPI parallel environment, and can be run on a network of computers. As examples we parallelize two simple existing reverse search codes: generating topological orderings and generating spanning trees of a graph. We give computational results comparing the parallel codes with state of the art sequential codes for the same problems.

研究の動機と目的

• 従来の逐次的ツリーサーチコード、特にリバースサーチ、バックトラッキング、ブランチアンドバウンドに用いられるコードの並列化という課題に対処すること。
• 深いネスト構造で検証済みの逐次コードを変更する複雑さとリスクを低減するため、再利用可能で汎用的な並列化ラッパーを提供すること。
• コアの列挙論理を変更せずに、分散クラスタ上でリバースサーチアルゴリズムの高性能並列実行を可能にすること。
• サブプロブレムサイズの変動が大きく、事前に未知である状況下でも、適応的予算割り当てとメッセージ追跡メカニズムを導入することで、分散ツリーサーチにおける効率的なロードバランスと動的ジョブスケジューリングを実現すること。

提案手法

• mts は最小限のインターフェースを用いて、既存の逐次的リバースサーチコードをラップし、ローカル探索関数 f と隣接オラクル Adj の定義のみを要件とする。
• フレームワークはMPIを用いて分散実行を実現し、マスタープロセスがジョブリストを管理し、サブプロブレムをワーカープロセスに割り当てる。
• 各ワーカーは、深さ優先探索により部分木を走査し、-scale および -maxnodes パラメータで制御される動的予算割り当て戦略を用いてロードバランスを調整する。
• ワーカーは、未探索ノード数（bts() 関数経由）をマスターに報告することで、進行状況の追跡とジョブ配分の調整を可能にする。
• システムはワーカーの活動状況とジョブリストサイズのヒストグラムを維持し、パラメータチューニングの支援となる可視化スクリプト（plotL.gp）を提供する。
• bts() の出力から得られるサブプロブレムサイズの頻度ファイルが生成され、最適な予算設定を決定する根拠となる。別途、ジョブサイズ分布を可視化するスクリプト（plotD.gp）が用意されている。

実験結果

リサーチクエスチョン

• RQ1 コア論理を変更せずに、多様なリバースサーチアルゴリズムを並列化できる汎用的で最小限のラッパー枠組みを設計できるか？
• RQ2 サブプロブレムサイズが著しく変動し、事前に未知である状況下で、分散ツリーサーチにおける動的ロードバランスをどのように達成できるか？
• RQ3 （例：-scale, -maxnodes など）どのようなパラメータ設定が、異なる入力タイプやクラスタ構成において最適なパフォーマンスを発揮するか？
• RQ4 同じフレームワークが、最小限のチューニングで、さまざまなリバースサーチ問題に対してほぼ線形のスループット向上を達成できるか、その範囲はどの程度か？
• RQ5 本フレームワークは、ブランチアンドバウンドやSATソルブなど、他のツリーサーチパラダイムにも同様のパフォーマンス向上をもたらすように拡張可能か？

主な発見

• mts は、2つのリバースサーチ問題（トポロジカル順序付けとスパニングツリー生成）に適用したところ、192コアのクラスタ上でほぼ線形のスループット向上を達成した。
• デフォルトパラメータを使用した場合、マスタープロセスがすべてのワーカーを常にビジーに保てていないことを示すヒストグラムが得られ、小さなジョブ予算によるリソース未利用が原因であると判明した。
• -maxnodes を 1,000,000 に増加させたところ、ジョブリストが急速に空になり、過剰なアイドルタイムが発生した。これは、過大な予算がロードバランス効率を低下させることを示している。
• -scale 200 および -maxnodes 10,000 にチューニングした結果、合計ジョブ数が半分以下に減少し、デフォルト設定と比較してパフォーマンスが約5%向上した。
• 頻度ファイルから得られたサブプロブレムサイズの分布は、多くのジョブが小さな部分木に対応していることを示しており、効率向上のためのプルーニングの可能性が示唆された。
• パフォーマンスヒストグラムとサブプロブレムサイズプロットの生成機能により、実世界の環境でも効果的なパラメータチューニングが可能であることが実証され、実用性が裏付けられた。