[论文解读] Boosting Decision Diagram-Based Branch-And-Bound by Pre-Solving with Aggregate Dynamic Programming

Vianney Coppé, Xavier Gillard+1 more|arXiv (Cornell University)|Nov 22, 2022

Formal Methods in Verification参考文献 50被引用 2

一句话总结

本文提出了一种基于决策图的分支定界（DD-B&B）缓存机制，通过聚合动态规划预先求解，加速搜索过程。通过存储松弛和受限决策图中的支配关系与剪枝阈值，该方法避免了重复的节点扩展，显著减少了探索的节点数量，并能更快地求解更多困难的优化实例，且使用更窄的决策图。

ABSTRACT

Discrete optimization problems expressible as dynamic programs can be solved by branch-and-bound with decision diagrams. This approach dynamically compiles bounded-width decision diagrams to derive both lower and upper bounds on unexplored parts of the search space, until they are all enumerated or discarded. Assuming a minimization problem, relaxed decision diagrams provide lower bounds through state merging while restricted decision diagrams obtain upper bounds by excluding states to limit their size. As the selection of states to merge or delete is done locally, it is very myopic to the global problem structure. In this paper, we propose a novel way to proceed that is based on pre-solving a so-called aggregate version of the problem with a limited number of states. The compiled decision diagram of this aggregate problem is tractable and can fit in memory. It can then be exploited by the original branch-and-bound to generate additional pruning and guide the compilation of restricted decision diagrams toward good solutions. The results of the numerical study we conducted on three combinatorial optimization problems show a clear improvement in the performance of DD-based solvers when blended with the proposed techniques. These results also suggest an approach where the aggregate dynamic programming model could be used in replacement of the relaxed decision diagrams altogether.

研究动机与目标

• 解决基于决策图的分支定界（DD-B&B）中因动态规划公式固有的子问题重用而导致的重复探索重叠子问题的低效问题。
• 克服经典DD-B&B的局限性，即近似决策图（松弛和受限图）在重叠的搜索空间区域重复计算，导致冗余计算。
• 开发一种共享的持久化缓存，用于存储在松弛和受限DD编译过程中观察到的支配关系与剪枝关系所导出的扩展阈值。
• 在DD-B&B中实现最佳优先搜索排序，同时防止对先前访问过的动态规划（DP）状态进行重新扩展，从而结合效率与搜索引导的优势。
• 提升DD-B&B在困难离散优化问题上的可扩展性与性能，特别是针对其动态规划公式中存在同构子树的问题。

提出的方法

• 维护一个共享缓存，为每个DP状态存储两类阈值：基于松弛DD中部分解支配关系的支配阈值，以及基于局部和松弛上界过滤的剪枝阈值。
• 利用支配阈值检测新部分解是否被先前找到的解所支配，从而立即剪枝新解。
• 利用Gillard等人（2021a）提出的过滤技术所导出的剪枝阈值，包括局部边界（LocBs）和松弛上界（RUBs），预先剪枝那些本应被扩展的节点。
• 将两类阈值整合进统一的剪枝机制，在节点扩展时检查当前DP状态是否已以更优或等效的解被探索过。
• 利用DP模型的结构，在松弛和受限DD编译过程中预先计算并缓存阈值，实现在多个B&B节点扩展中的复用。
• 在最佳优先B&B遍历过程中应用该缓存，确保仅扩展对应于先前未访问过的DP状态的节点，即使搜索顺序非广度优先。

实验结果

研究问题

• RQ1 能否通过缓存先前DD编译的信息，缓解DD-B&B中对重叠子问题的重复探索？
• RQ2 从松弛和受限DD中导出的支配与剪枝阈值，在不牺牲搜索引导的前提下，能在多大程度上提升DD-B&B的剪枝能力？
• RQ3 将缓存阈值集成到最佳优先B&B框架中，与经典DD-B&B和MIP求解器相比，是否能保持或提升性能？
• RQ4 与通过减少节点探索所获得的性能增益相比，维护缓存的内存开销如何？
• RQ5 该缓存机制是否能显著提升对困难优化实例的求解效率，特别是那些其DP公式中存在同构子树的实例？

主要发现

• 所提出的缓存机制B&B+C通过复用先前松弛和受限DD编译中获得的支配与剪枝阈值，显著减少了DD-B&B中扩展的节点数量。
• B&B+C求解的基准实例数量多于经典DD-B&B，尤其在TSPTW、PSP和SRFLP等困难实例上表现更优，即使在内存受限条件下性能也更佳。
• 对于未求解的实例，B&B+C的最优性间隙达到80%或以上，优于Gurobi在相同困难实例上的表现，后者表现出更差的间隙性能。
• B&B+C的内存消耗与经典B&B相当甚至更低，因为剪枝效应导致决策图更稀疏，从而降低了整体内存使用。
• 缓存可加快困难实例的收敛速度，表明剩余计算工作量被更高效地利用，即使最优性间隙较小。
• 该方法在DP公式中存在同构子树的问题上尤为有效，此时缓存阈值的复用可带来最大收益。