[论文解读] Nonequilibrium Monte Carlo for unfreezing variables in hard combinatorial optimization

Masoud Mohseni, Daniel Eppens+8 more|arXiv (Cornell University)|Nov 26, 2021

Machine Learning in Materials Science被引用 14

一句话总结

本文提出非平衡蒙特卡洛（NMC），一种受量子启发的自适应非局部MCMC算法，利用局部学习的信念传播检测协同变量相关性，并施加空间非均匀的热涨落，以高效解冻硬性组合优化中的冻结变量。在最困难的10%随机4-SAT实例中，NMC相较于调查传播（SP）将解的质量提升了最多两个数量级，且与自适应并行退火（APT）相比，求解时间减少了两个数量级。

ABSTRACT

Optimizing highly complex cost/energy functions over discrete variables is at the heart of many open problems across different scientific disciplines and industries. A major obstacle is the emergence of many-body effects among certain subsets of variables in hard instances leading to critical slowing down or collective freezing for known stochastic local search strategies. An exponential computational effort is generally required to unfreeze such variables and explore other unseen regions of the configuration space. Here, we introduce a quantum-inspired family of nonlocal Nonequilibrium Monte Carlo (NMC) algorithms by developing an adaptive gradient-free strategy that can efficiently learn key instance-wise geometrical features of the cost function. That information is employed on-the-fly to construct spatially inhomogeneous thermal fluctuations for collectively unfreezing variables at various length scales, circumventing costly exploration versus exploitation trade-offs. We apply our algorithm to two of the most challenging combinatorial optimization problems: random k-satisfiability (k-SAT) near the computational phase transitions and Quadratic Assignment Problems (QAP). We observe significant speedup and robustness over both specialized deterministic solvers and generic stochastic solvers. In particular, for 90% of random 4-SAT instances we find solutions that are inaccessible for the best specialized deterministic algorithm known as Survey Propagation (SP) with an order of magnitude improvement in the quality of solutions for the hardest 10% instances. We also demonstrate two orders of magnitude improvement in time-to-solution over the state-of-the-art generic stochastic solver known as Adaptive Parallel Tempering (APT).

研究动机与目标

• 解决硬性组合优化问题中随机局部搜索的临界慢化与集体冻结问题。
• 克服在多模态能量景观中探索冻结变量区域时计算成本呈指数增长的难题。
• 开发一种受物理启发的自适应算法，学习代价函数的实例特定几何特征，以指导非局部更新。
• 在4-SAT和QAP等挑战性问题中，实现相对于专用确定性求解器和通用随机求解器的显著加速与更强鲁棒性。
• 通过基于学习到的骨架结构构建非均匀热涨落，实现对未探索配置空间区域的高效探索。

提出的方法

• 在局部化代理哈密顿量上使用局部信念传播（LBP），识别变量之间的协同相关性与骨架结构。
• 基于LBP学习到的实例特定几何特征，构建MCMC更新中的空间非均匀热涨落。
• 采用非平衡MCMC，结合自适应、非局部移动，选择性地平坦化能量壁垒，同时保留其他景观特征。
• 在LBP与非局部MCMC之间建立自适应协同机制，在多个长度尺度上平衡探索与利用。
• 采用无梯度策略学习并应用问题特定相关性，无需对对称性或结构预先假设。
• 保持较低的计算开销（5%–20%），且随系统规模线性增长，支持实际部署。

实验结果

研究问题

• RQ1 基于能量景观几何特征学习的非局部MCMC策略，是否能在硬性组合优化中超越局部随机求解器？
• RQ2 自适应、实例特定的非均匀热涨落能在多大程度上减少多模态优化问题的求解时间？
• RQ3 NMC算法在求解困难随机4-SAT实例时，与专用求解器如调查传播（SP）相比表现如何？
• RQ4 该算法是否能有效解冻被束缚在亚稳态中的变量，而无需依赖全局问题结构？
• RQ5 在大规模优化中，将局部信念传播与非局部MCMC集成的可扩展性与计算开销如何？

主要发现

• 在90%的随机4-SAT实例中，NMC找到了最佳专用确定性求解器调查传播（SP）无法触及的解。
• 在最困难的10%的4-SAT实例中，NMC相较SP将解的质量提升了1至2个数量级。
• 与最先进的通用随机求解器自适应并行退火（APT）相比，NMC将求解时间减少了两个数量级。
• 相较于局部MCMC策略（如APT），NMC的性能增益随蒙特卡洛扫掠次数增加而提升，表明在更大、更难的问题中优势更显著。
• LBP子程序仅增加5%至20%的计算开销，且随系统规模线性增长，使该方法在大规模实例中具备实用性。
• 通过基于学习到的骨架结构构建非局部更新，该算法实现了对以往无法触及的配置空间盆地的高效探索。