[論文レビュー] HS-CAI: A Hybrid DCOP Algorithm via Combining Search with Context-based Inference

Dingding Chen, Yanchen Deng+3 more|arXiv (Cornell University)|Nov 28, 2019

Constraint Satisfaction and Optimization参考文献 24被引用数 4

ひとこと要約

HS-CAI は、木ベースの探索と反復的文脈に基づく推論を統合することで、限られたメモリ予算下でもよりタイトな下界を生成し、効率的な pruning を実現する、新しいハイブリッド DCOP アルゴリズムである。探索プロセスから動的に文脈を導出するとともに文脈評価メカニズムを適用することで、推論のオーバーヘッドを低減しつつ、メッセージ数、ネットワーク負荷、制約チェックの観点で最先端のアルゴリズムを上回る性能を発揮する。

ABSTRACT

Search and inference are two main strategies for optimally solving Distributed Constraint Optimization Problems (DCOPs). Recently, several algorithms were proposed to combine their advantages. Unfortunately, such algorithms only use an approximated inference as a one-shot preprocessing phase to construct the initial lower bounds which lead to inefficient pruning under the limited memory budget. On the other hand, iterative inference algorithms (e.g., MB-DPOP) perform a context-based complete inference for all possible contexts but suffer from tremendous traffic overheads. In this paper, $(i)$ hybridizing search with context-based inference, we propose a complete algorithm for DCOPs, named {HS-CAI} where the inference utilizes the contexts derived from the search process to establish tight lower bounds while the search uses such bounds for efficient pruning and thereby reduces contexts for the inference. Furthermore, $(ii)$ we introduce a context evaluation mechanism to select the context patterns for the inference to further reduce the overheads incurred by iterative inferences. Finally, $(iii)$ we prove the correctness of our algorithm and the experimental results demonstrate its superiority over the state-of-the-art.

研究の動機と目的

• 限られたメモリ予算下で、従来のハイブリッド DCOP アルゴリズムにおけるワンショット近似推論の非効率性を是正し、弱い下界を生じさせることを目的とする。
• MB-DPOP などの反復的推論アルゴリズムが高コストな通信を発生させるのを克服し、関連する文脈パターンにのみ推論を適用することで選択的に適用する。
• 探索から動的に文脈を導出することで、プルーニングの有効性を高める完全かつ最適な DCOP ソルバを開発すること。
• 文脈評価メカニズムを用いて、計算コストと通信コストを低減させつつ、高影響度の文脈パターンを優先的に処理する。
• 同じメモリ予算下で、文脈フリーな近似と比較して、文脈に基づく推論がよりタイトな下界を生成できることを実証すること。

提案手法

• 木ベースの SBB 探索と反復的文脈に基づく推論を統合し、探索が継続的な文脈を提供することで、タイトな下界を生成する。
• 探索プロセスから導出された文脈パターンを、推論における反復的ユーティリティ伝搬の入力として用い、探索中によりタイトなプルーニングを実現する。
• 最も効果的な文脈パターンを特定・優先順位付けする文脈評価メカニズムを実装し、必要な推論回数を削減する。
• メモリ制約を尊重するため、ODPOP や MB-DPOP と同様に次元制限付きのユーティリティ伝搬を適用するが、文脈に配慮したプルーニングを実現する。
• 探索フェーズと推論フェーズを動的に交互に切り替え、推論の結果を再利用して探索のプルーニングをガイドし、探索すべき文脈の数を削減する。
• 理論的分析により、同じメモリ予算下で文脈に基づく推論が、文脈フリーな近似推論よりも下界が少なくとも同等以上にタイトであることを証明した。

実験結果

リサーチクエスチョン

• RQ1 探索文脈から導出された反復的文脈に基づく推論は、ハイブリッド DCOP アルゴリズムにおいて、ワンショット近似推論よりもタイトな下界を生成できるか？
• RQ2 メモリ制約下でプルーニングの有効性を損なわず、文脈に基づく推論の回数を最小限に抑える方法は何か？
• RQ3 探索と文脈に配慮した推論を組み合わせることで、最先端の完全 DCOP アルゴリズムと比較して、メッセージ数、ネットワーク負荷、制約チェックの観点で顕著な削減が達成できるか？
• RQ4 文脈評価メカニズムは、効果的な高影響度文脈パターンを的確に特定し、推論のオーバーヘッドを低減しながら最適性を維持できるか？
• RQ5 限られたメモリ予算下で、本提案のハイブリッドアプローチは、従来の推論ベース（例：DPOP, MB-DPOP）および探索ベース（例：PT-FB）のアルゴリズムよりもスケーラブルか？

主な発見

• HS-CAI( k=6 ) は、低メモリ予算下で HS-AI( k=6 ) や DPOP や MB-DPOP といった推論ベースのアルゴリズムよりも大きな問題を解けることから、優れたスケーラビリティを示している。
• HS-CAI( k=6 ) は、反復的推論の追加コストがあるにもかかわらず、よりタイトな下界による効果的なプルーニングのおかげで、PT-FB や HS-AI よりも少ないメッセージ数とネットワーク負荷を発生させた。
• 28 エージェントの問題を解く際、HS-CAI( k=6 ) は HS-AI( k=6 ) よりも少ない NCLO（制約チェック数）を要したため、収束が速いことが示された。
• HS-CAI( k=10 ) は HS-CAI( k=6 ) よりもよりタイトな下界を生成したが、計算オーバーヘッドが増加し、結果として NCLO は増加したがメッセージ数は減少した。
• 密な構成において、HS-CAI は MB-DPOP よりもネットワーク負荷と NCLO で優れており、すべての文脈ではなく評価済みの文脈パターンにのみ推論を適用するためである。
• 理論的分析により、同じメモリ予算下で文脈に基づく推論が、文脈フリーな近似推論よりも下界が少なくとも同等以上にタイトであることが確認された。