[論文レビュー] Distributed Work Stealing for Constraint Solving

Vasco Pedro, Salvador Abreu|arXiv (Cornell University)|Sep 20, 2010

Constraint Satisfaction and Optimization参考文献 14被引用数 7

ひとこと要約

本稿では、制約充足問題（CSP）の解法に向けた分散型ワークスティーリングフレームワークを提案する。このフレームワークは、並列ワーカー間での動的ロードバランスを可能にする。チーム内でのローカルワークスティーリングと、チーム間での協働的ワークロード再配分を組み合わせることで、無駄な待機時間を削減し、スケーラビリティを向上させる。静的分割法と比較して、多様なCSPベンチマークにおいて顕著な性能向上を示している。

ABSTRACT

With the dissemination of affordable parallel and distributed hardware, parallel and distributed constraint solving has lately been the focus of some attention. To effectually apply the power of distributed computational systems, there must be an effective sharing of the work involved in the search for a solution to a Constraint Satisfaction Problem (CSP) between all the participating agents, and it must happen dynamically, since it is hard to predict the effort associated with the exploration of some part of the search space. We describe and provide an initial experimental assessment of an implementation of a work stealing-based approach to distributed CSP solving.

研究の動機と目的

• 静的作業分割が無駄な待機ワーカーや無駄な作業を生じさせる分散制約解法における動的ロードアンバランスの課題に対処すること。
• グローバルな調整を必要とせず、分散エージェント間で探索作業を効果的に共有できる、透明でスケーラブルなフレームワークを設計すること。
• チーム内でのローカルスティーリングと、遠く離れたチーム間での協働的スティーリングを組み合わせた二段階のワークスティーリング戦略が、並列CSP解法におけるパフォーマンス向上に寄与するかを評価すること。
• 制約プログラミングの宣言的で単純な性質を保ちながら、ワークスティーリングを制約ソルバーに統合する方法を検討すること。
• 本手法が実世界のCSPインスタンスにおいて、作業配分のばらつきや通信オーバーヘッドの変化に伴って、スケーラビリティとパフォーマンスに与える影響を評価すること。

提案手法

• システムはワーカーをチームに所属させ、各チームにはローカル作業プールを管理し、他のチームと連携するためのコントローラーが存在する。
• 各ワーカーは現在の探索空間と、アイドルな探索空間のプールを保持し、ドメイン整合性に基づく制約ソルバーを用いて探索を実行する。
• チーム内でのローカルワークスティーリングは、ワーカーがローカル作業プールを消費した際に発動し、アイドルなワーカーがビジー状態の同僚から部分探索空間を盗み取ることを可能にする。
• チーム間のロードバランスのための協働プロトコルでは、チームがアンバランスを検知した際に残存作業を再配分し、マネージャーのような調整メカニズムを用いる。
• 本手法は、変数ドメイン制約に基づいて探索空間を互いに素な部分探索空間に分割する戦略を採用しており、完全性を保証するとともに重複を回避する。
• 実装ではPOSIXスレッドとMPIを用いてプロセス間通信を実現しており、今後の課題として、他の並行処理モデルの検討が予定されている。

実験結果

リサーチクエスチョン

• RQ1 どのようにしてワークスティーリングを分散制約解法に効果的に適用し、待機時間を最小限に抑え、ロードバランスを改善できるか？
• RQ2 分散CSPソルバーにおいて、ローカルスティーリングとチーム間協働を組み合わせた場合のパフォーマンスへの影響は何か？
• RQ3 本手法は、多様なCSPインスタンスにおいて、静的分割戦略と比較して、スケーラビリティと解法時間の点でどの程度優れているか？
• RQ4 ワークスティーリング機構は、探索効率を維持しつつ、通信オーバーヘッドをどの程度削減できるか？
• RQ5 本フレームワークは、最適化制約をサポートするように拡張可能であり、大規模な分散システムにおいても効率的にスケーリング可能か？

主な発見

• 提案されたワークスティーリング手法は、チーム間での動的ロードバランスを可能にすることで、分散CSP解法における待機時間を顕著に削減した。
• 初期の作業配分が不均衡なケースにおいて特に顕著なパフォーマンス向上が観察された。
• 二段階戦略（チーム内でのスティーリングとチーム間協働）は、高いリソース利用率を維持し、全体の解法時間を短縮するのに有効であった。
• システムはスケーラビリティを示し、ワーカー数や問題の複雑さが増加するにつれてパフォーマンス向上が顕著になった。
• 特に予測不可能な探索空間の計算負荷分布が生じる状況において、静的分割戦略を上回る性能を発揮した。
• 探索進捗状況とヒューリスティック情報に基づくワークスティーリングは、探索空間の効率的探索に寄与することが示唆された。