[論文レビュー] A GPU implementation of the Simulated Annealing Heuristic for the Quadratic Assignment Problem

Gerald Paul|arXiv (Cornell University)|Aug 13, 2012

Vehicle Routing Optimization Methods参考文献 15被引用数 6

ひとこと要約

この論文は、二乗割当問題（QAP）のためのシミュレーテッドアニーリングヒューリスティクスのGPUアクセラレート版を提示している。delta行列手法を用いて、すべての交換コストを並列に計算する。大規模な反復回数において、高度に最適化された非並列CPU実装と比較して50–100倍の高速化を達成しており、従来のSAと比較して最大10,000倍の向上を達成している。これはアルゴリズム的およびハードウェア的最適化の組み合わせによるものである。

ABSTRACT

The quadratic assignment problem (QAP) is one of the most difficult combinatorial optimization problems. An effective heuristic for obtaining approximate solutions to the QAP is simulated annealing (SA). Here we describe an SA implementation for the QAP which runs on a graphics processing unit (GPU). GPUs are composed of low cost commodity graphics chips which in combination provide a powerful platform for general purpose parallel computing. For SA runs with large numbers of iterations, we find performance 50-100 times better than that of a recent non-parallel but very efficient implementation of SA for the QAP

研究の動機と目的

• NP困難な二乗割当問題（QAP）の解法を高速化すること。QAPは、最も挑戦的な組合せ最適化問題の一つである。
• GPU上でシミュレーテッドアニーリングヒューリスティクスを効率的に実装し、高品質な解を得るための大規模な反復回数を実現すること。
• GPUの並列処理を活用しつつも、元のSA論理を保持することでアルゴリズムの正確性を維持すること。
• 交換コストを再計算から始めてしまう従来のSA実装の性能ボトルネックを克服すること。

提案手法

• すべての可能な交換（i,j）のためのコスト変化Δi,jを並列に事前計算および維持するdelta行列手法を採用する。
• NVIDIA Tesla C2070 GPU上でCUDAを用いてSAヒューリスティクスを実装し、各スレッドが1つの交換計算を担当する。
• スレーブブロック内でのバリア同期を用いて、順列やdelta行列などの共有データ構造の更新を調整する。
• スレーブブロックの数をSMの数に制限することで、同期中にブロック間デッドロックを回避する。
• 各受け入れられた交換の後、順列とdelta行列をインプレースで更新し、すべてのスレッド間で一貫性を保つ。
• 温度Tに冷却スケジュールを適用し、一様な乱数変量rを用いてコストが増加する交換を確率的に受け入れる。

実験結果

リサーチクエスチョン

• RQ1 QAP用のシミュレーテッドアニーリングヒューリスティクスは、GPU上で効果的に並列化可能であり、顕著な性能向上を達成できるか？
• RQ2 大規模な反復回数において、GPUベースのSA実装は、高度に最適化された非並列CPUバージョンと比較してどの程度の性能を示すか？
• RQ3 並列交換コスト計算を可能にするdelta行列手法は、GPUのメモリ制限および同期制約下でも効率的であるか？
• RQ4 アルゴリズム最適化（delta行列）とGPU並列処理を組み合わせることで、QAPに対して得られる最大の性能向上はどの程度か？
• RQ5 GPU実装は、ヒューリスティクス論理を変更せずに、従来のCPU版と同等の統計的結果を生成できるか？

主な発見

• 大規模な反復回数（I ≥ 10^4）において、高度に最適化された非並列CPU実装のdelta行列SAヒューリスティクスと比較して、GPU実装は50–100倍の性能向上を達成した。
• 性能向上は約10^7反復で飽和し、初期段階の低受容率フェーズのオーバーヘッドが無視できるようになる。
• 従来のSA実装（delta行列なし）と比較して、アルゴリズム的およびハードウェア的加速の組み合わせにより、最大10,000倍の高速化が達成された。
• delta行列手法により、GPUスレッド全体ですべての交換コスト計算を同時に実行できるため、効率的な並列化が可能になった。
• スレーブブロック間の同期は、SM数に等しいブロック数に制限することで、デッドロックを回避する独自のメカニズムで管理された。
• GPU実装は、ハードウェアレベルの並列処理を経ても、元のCPUベースのSAヒューリスティクスと統計的に同一の結果を生成した。これにより、アルゴリズムの正しさが裏付けられた。