[论文解读] HS-CAI: A Hybrid DCOP Algorithm via Combining Search with Context-based Inference

Dingding Chen, Yanchen Deng+3 more|arXiv (Cornell University)|Nov 28, 2019

Constraint Satisfaction and Optimization参考文献 24被引用 4

一句话总结

HS-CAI 是一种新颖的混合 DCOP 算法，结合基于树的搜索与迭代上下文推理，以生成更紧致的下界，实现高效剪枝。通过从搜索过程中动态推导上下文并应用上下文评估机制，它在降低推理开销的同时，优于当前最先进的算法，在消息数量、网络负载和约束检查方面表现更优，且在内存受限条件下表现更佳。

ABSTRACT

Search and inference are two main strategies for optimally solving Distributed Constraint Optimization Problems (DCOPs). Recently, several algorithms were proposed to combine their advantages. Unfortunately, such algorithms only use an approximated inference as a one-shot preprocessing phase to construct the initial lower bounds which lead to inefficient pruning under the limited memory budget. On the other hand, iterative inference algorithms (e.g., MB-DPOP) perform a context-based complete inference for all possible contexts but suffer from tremendous traffic overheads. In this paper, $(i)$ hybridizing search with context-based inference, we propose a complete algorithm for DCOPs, named {HS-CAI} where the inference utilizes the contexts derived from the search process to establish tight lower bounds while the search uses such bounds for efficient pruning and thereby reduces contexts for the inference. Furthermore, $(ii)$ we introduce a context evaluation mechanism to select the context patterns for the inference to further reduce the overheads incurred by iterative inferences. Finally, $(iii)$ we prove the correctness of our algorithm and the experimental results demonstrate its superiority over the state-of-the-art.

研究动机与目标

• 解决现有混合 DCOP 算法中一次性近似推理效率低下的问题，这些算法在内存受限条件下会产生较弱的下界。
• 克服如 MB-DPOP 等迭代推理算法带来的高通信开销，通过仅对相关上下文模式应用推理来实现选择性推理。
• 开发一种完整的、最优的 DCOP 求解器，利用从搜索过程中动态推导的上下文，提升剪枝效率。
• 通过上下文评估机制降低基于上下文推理的计算与通信成本，优先处理高影响力模式。
• 证明在相同内存预算下，基于上下文的推理可产生比无上下文近似更紧致的下界。

提出的方法

• 将基于树的 SBB 搜索与迭代上下文推理相结合，其中搜索过程为推理提供运行中的上下文，以生成更紧致的下界。
• 将从搜索过程中推导出的上下文模式作为迭代效用传播推理的输入，从而在搜索过程中实现更紧致的剪枝。
• 实现一种上下文评估机制，以识别并优先处理最具影响力的上下文模式，从而减少所需推理次数。
• 在推理中应用维度受限的效用传播，以尊重内存约束，类似于 ODPOP 和 MB-DPOP 的方法，但引入上下文感知剪枝。
• 动态交替执行搜索与推理阶段，将推理结果重用于指导搜索剪枝，从而减少需探索的上下文数量。
• 理论分析证明，在相同内存预算下，基于上下文的推理产生的下界至少与无上下文近似推理一样紧致。

实验结果

研究问题

• RQ1 能否通过从搜索上下文推导出的迭代上下文推理，在混合 DCOP 算法中产生比一次性近似推理更紧致的下界？
• RQ2 在内存受限环境下，如何在不牺牲剪枝效果的前提下最小化基于上下文的推理次数？
• RQ3 将搜索与上下文感知推理相结合，是否能显著降低消息数量、网络负载和约束检查次数，相比当前最先进的完整 DCOP 算法？
• RQ4 上下文评估机制能否有效识别高影响力上下文模式，从而在保持最优性的同时降低推理开销？
• RQ5 在内存受限条件下，所提出的混合方法是否比现有基于推理的算法（如 DPOP、MB-DPOP）和基于搜索的算法（如 PT-FB）更具可扩展性？

主要发现

• 在低内存预算下，HS-CAI( k=6 ) 求解的问题规模大于 HS-AI( k=6 ) 和基于推理的算法（如 DPOP 和 MB-DPOP），展现出更优的可扩展性。
• 尽管增加了迭代推理的开销，HS-CAI( k=6 ) 的消息数量和网络负载仍低于 PT-FB 和 HS-AI，这是由于更紧致的下界带来了更有效的剪枝。
• 在求解 28 个代理的问题时，HS-CAI( k=6 ) 所需的 NCLOs（约束检查次数）少于 HS-AI( k=6 )，表明收敛速度更快。
• HS-CAI( k=10 ) 产生的下界比 HS-CAI( k=6 ) 更紧致，但计算开销更高，导致 NCLOs 增加，而消息数量减少。
• 在密集配置下，HS-CAI 在网络负载和 NCLOs 方面均优于 MB-DPOP，原因在于其仅对经评估的上下文模式进行选择性推理，而非对所有上下文进行推理。
• 理论分析确认，在相同内存预算下，基于上下文的推理产生的下界至少与无上下文近似推理一样紧致。