[論文レビュー] Boosting Decision Diagram-Based Branch-And-Bound by Pre-Solving with Aggregate Dynamic Programming

Vianney Coppé, Xavier Gillard+1 more|arXiv (Cornell University)|Nov 22, 2022

Formal Methods in Verification参考文献 50被引用数 2

ひとこと要約

本稿では、集合的動的計画法を用いて事前に解くことで探索を高速化する意思決定図に基づく分枝限定法（DD-B&B）のキャッシュ機構を提案する。緩和および制限付き意思決定図からの支配関係および pruning しきい値を格納することにより、重複するノードの再展開を回避し、探索するノード数を著しく削減し、より狭い図を用いてもハードな最適化インスタンスをより速く解けるようになる。

ABSTRACT

Discrete optimization problems expressible as dynamic programs can be solved by branch-and-bound with decision diagrams. This approach dynamically compiles bounded-width decision diagrams to derive both lower and upper bounds on unexplored parts of the search space, until they are all enumerated or discarded. Assuming a minimization problem, relaxed decision diagrams provide lower bounds through state merging while restricted decision diagrams obtain upper bounds by excluding states to limit their size. As the selection of states to merge or delete is done locally, it is very myopic to the global problem structure. In this paper, we propose a novel way to proceed that is based on pre-solving a so-called aggregate version of the problem with a limited number of states. The compiled decision diagram of this aggregate problem is tractable and can fit in memory. It can then be exploited by the original branch-and-bound to generate additional pruning and guide the compilation of restricted decision diagrams toward good solutions. The results of the numerical study we conducted on three combinatorial optimization problems show a clear improvement in the performance of DD-based solvers when blended with the proposed techniques. These results also suggest an approach where the aggregate dynamic programming model could be used in replacement of the relaxed decision diagrams altogether.

研究の動機と目的

• 意思決定図に基づく分枝限定法（DD-B&B）における重複する部分問題の繰り返し探索という非効率性を是正すること。これは、動的計画法の定式化が部分問題の再利用を内蔵していることに起因する。
• 古典的DD-B&Bの限界を克服すること。近似された意思決定図（緩和および制限付き）は、重複する探索領域で作業を再計算するため、冗長な計算が生じる。
• 緩和および制限付きDDのコンパイル中に観察された支配関係および pruning 関係に基づいて得られる展開しきい値を格納する、共有で永続的なキャッシュを開発すること。
• 最良優先探索順序をDD-B&Bで可能にするとともに、過去に訪問済みの動的計画法（DP）状態の再展開を防ぐことにより、効率性と探索誘導の両方の利点を組み合わせること。
• 特にDP定式化に同型の部分木を有する問題において、DD-B&Bのスケーラビリティおよびパフォーマンスを向上させること。

提案手法

• 各DP状態に対して2種類のしきい値を格納する共有キャッシュを維持する：緩和されたDDからの部分解の支配関係に基づく支配しきい値、および局所的および緩和された上限値に基づくpruningしきい値。
• 支配しきい値を用いて、新しい部分解が以前に発見されたものに支配されていることを検出することで、即座に新しい解をpruningできる。
• Gillardら（2021a）のフィルタリング技法に由来するpruningしきい値（局所上限値（LocBs）および緩和された上限値（RUBs））を用い、後で展開されるはずのノードを事前にpruningする。
• 両方のしきい値タイプを統合した一貫したpruningメカニズムを構築し、ノード展開時に、現在のDP状態がより良いまたは同等の解で以前に探索済みかどうかをチェックする。
• DPモデルの構造を活用して、緩和および制限付きDDのコンパイル中に事前にしきい値を計算・キャッシュし、複数回のB&Bノード展開で再利用可能にする。
• 最良優先B&B走査中にキャッシュを適用し、幅優先でない探索順序であっても、以前に訪問されていないDP状態に該当するノードのみを展開することを保証する。

実験結果

リサーチクエスチョン

• RQ1 過去のDDコンパイルから得た情報をキャッシュすることで、DD-B&Bにおける重複する部分問題の繰り返し探索を軽減できるか？
• RQ2 緩和および制限付きDDから得た支配およびpruningしきい値は、探索誘導を損なわず、DD-B&Bのpruning能力をどの程度向上できるか？
• RQ3 キャッシュされたしきい値を最良優先B&Bフレームワークに統合した場合、古典的DD-B&BおよびMIPソルバーよりもパフォーマンスが向上または維持されるか？
• RQ4 ノード探索の削減によるパフォーマンス向上と比較して、キャッシュのメモリオーバーヘッドはどの程度か？
• RQ5 このキャッシュ機構は、特にDP定式化に同型の部分木を有する問題において、ハードな最適化インスタンスの解法を顕著に改善できるか？

主な発見

• 提案されたキャッシュ機構B&B+Cは、過去の緩和および制限付きDDコンパイルから得た支配およびpruningしきい値を再利用することで、DD-B&Bにおける展開ノード数を顕著に削減する。
• B&B+Cは、古典的DD-B&BよりもTSPTW、PSP、SRFLPのハードインスタンスにおいて、より多くのベンチマークインスタンスを最適解に到達させ、特にメモリ制約下でもパフォーマンスが向上する。
• 未解決インスタンスについても、B&B+CはGurobiと比較して80％以上というより緊密な最適性ギャップを達成するが、Gurobiは同様のハードインスタンスで著しく劣るギャップ性能を示す。
• B&B+Cのメモリ消費量は、古典的B&Bと同等またはそれ以下であり、pruning効果により意思決定図が疎になり、全体のメモリ使用量が削減されるためである。
• B&B+Cはハードインスタンスにおいて収束が速くなることが示され、最適性ギャップが小さくても計算負荷がより効率的に活用されていることが示唆される。
• 特にDP定式化に同型の部分木を有する問題において、この手法は最大の恩恵を受ける。