[论文解读] Biased thermodynamics can explain the behaviour of smart optimization algorithms that work above the dynamical threshold

Angelo Giorgio Cavaliere, Federico Ricci‐Tersenghi|arXiv (Cornell University)|Mar 27, 2023

Machine Learning in Materials ScienceMaterials Science被引用 3

一句话总结

本文提出，智能优化算法在随机约束满足问题（CSPs）中超越动力学阈值时的成功，源于对解空间中偏置平衡态测量的采样，而非均匀测量。通过识别一种最优偏置测量——其遍历性破缺转变定义了算法阈值——这些算法可在标准动力学阈值 α_d 之上恢复遍历性，如在连续着色问题中通过蒙特卡洛采样所展示的那样。

ABSTRACT

Random constraint satisfaction problems can display a very rich structure in the space of solutions, with often an ergodicity breaking -- also known as clustering or dynamical -- transition preceding the satisfiability threshold when the constraint-to-variables ratio $α$ is increased. However, smart algorithms start to fail finding solutions in polynomial time at some threshold $α_{ m alg}$ which is algorithmic dependent and generally bigger than the dynamical one $α_d$. The reason for this discrepancy is due to the fact that $α_d$ is traditionally computed according to the uniform measure over all the solutions. Thus, while bounding the region where a uniform sampling of the solutions is easy, it cannot predict the performance of off-equilibrium processes, that are still able of finding atypical solutions even beyond $α_d$. Here we show that a reconciliation between algorithmic behaviour and thermodynamic prediction is nonetheless possible at least up to some threshold $α_d^{ m opt}\geqα_d$, which is defined as the maximum value of the dynamical threshold computed on all possible probability measures over the solutions. We consider a simple Monte Carlo-based optimization algorithm, which is restricted to the solution space, and we demonstrate that sampling the equilibrium distribution of a biased measure improving on $α_d$ is still possible even beyond the ergodicity breaking point for the uniform measure, where other algorithms hopelessly enter the out-of-equilibrium regime. The conjecture we put forward is that many smart algorithms sample the solution space according to a biased measure: once this measure is identified, the algorithmic threshold is given by the corresponding ergodicity-breaking transition.

研究动机与目标

• 将智能优化算法在标准动力学阈值 α_d 之上的性能与统计物理预测相协调。
• 识别一种作用于解空间上的偏置概率测量，使在 α_d 之外仍能实现平衡态采样。
• 证明算法阈值对应于该偏置测量的遍历性破缺转变。
• 表明标准算法中的老化和非平衡动力学源于均匀测量中的熵势垒，而非算法本身的内在失效。
• 通过具有短程吸引力的模型（例如粘性球体）提供对稀有解路径的物理直观解释。

提出的方法

• 在随机CSP的解空间上定义一种偏置概率测量，其中偏置参数被调节以延迟遍历性破缺的出现。
• 在偏置测量下对解空间施加限制的蒙特卡洛采样，以模拟平衡态动力学。
• 将最优动力学阈值 α_d^opt 计算为所有可能偏置测量中最大动力学转变点。
• 将该方法应用于连续着色问题，该问题可通过排斥体积相互作用实现解路径的实空间解释。
• 将均匀测量下的动力学（显示老化）与优化偏置下的动力学（显示无老化平衡行为）进行比较。
• 在稀疏随机图上使用洞穴法技术，对偏置系综中的相变进行解析计算。

实验结果

研究问题

• RQ1 为何智能优化算法能在标准动力学阈值 α_d 之上成功找到解，而均匀采样在此处会失败？
• RQ2 算法阈值 α_alg 是否可被解释为偏置平衡态测量中的相变，而非均匀测量中的相变？
• RQ3 在所有可能的解空间偏置测量中，可实现的动力学阈值最大值 α_d^opt 是多少？
• RQ4 标准算法（如均匀测量）的动力学与偏置算法在非平衡区域的动力学有何不同？
• RQ5 能否通过合理设计的偏置，利用在均匀测量下被抑制的稀有解路径，以恢复遍历性？

主要发现

• 智能算法的算法阈值 α_alg 对应于偏置测量的遍历性破缺转变，而非均匀测量。
• 最优偏置测量定义了一个新的动力学阈值 α_d^opt ≥ α_d，超过该阈值后仍可实现平衡态采样。
• 在优化偏置下的蒙特卡洛动力学显示无老化现象并迅速达到平衡，而均匀测量下的动力学则表现出强烈的老化。
• 在 α_d 之上的解是通过解簇之间稀有、熵抑制路径的非平衡动力学所找到的。
• 连续着色模型提供了实空间可视化，表明偏置中的短程吸引力可促成‘空腔通道’的形成，从而促进遍历性。
• 该方法成功预测了算法性能，并与数值模拟结果一致，表明其在其他CSP（如超图双色着色）中具有广泛适用性。