[论文解读] Limits and performances of algorithms based on simulated annealing in solving sparse hard inference problems

Maria Chiara Angelini, Federico Ricci‐Tersenghi|arXiv (Cornell University)|Jun 9, 2022

Markov Chains and Monte Carlo Methods被引用 4

一句话总结

本文分析了模拟退火（SA）和一种新型复制模拟退火（RSA）算法在求解稀疏推断问题（特别是植入着色问题）时的性能极限。研究发现，SA由于陷入玻璃态而表现次优，并提出基于旋光点和动力学相变温度的分析阈值。RSA实现了贝叶斯最优性能，其结果得到数值证据和大副本数下的分析理论支持。

ABSTRACT

The planted coloring problem is a prototypical inference problem for which thresholds for Bayes optimal algorithms, like Belief Propagation (BP), can be computed analytically. In this paper, we analyze the limits and performances of the Simulated Annealing (SA), a Monte Carlo-based algorithm that is more general and robust than BP, and thus of broader applicability. We show that SA is sub-optimal in the recovery of the planted solution because it gets attracted by glassy states that, instead, do not influence the BP algorithm. At variance with previous conjectures, we propose an analytic estimation for the SA algorithmic threshold by comparing the spinodal point of the paramagnetic phase and the dynamical critical temperature. This is a fundamental connection between thermodynamical phase transitions and out of equilibrium behavior of Glauber dynamics. We also study an improved version of SA, called replicated SA (RSA), where several weakly coupled replicas are cooled down together. We show numerical evidence that the algorithmic threshold for the RSA coincides with the Bayes optimal one. Finally, we develop an approximated analytical theory explaining the optimal performances of RSA and predicting the location of the transition towards the planted solution in the limit of a very large number of replicas. Our results for RSA support the idea that mismatching the parameters in the prior with respect to those of the generative model may produce an algorithm that is optimal and very robust.

研究动机与目标

• 理解模拟退火（SA）在求解稀疏、困难的推断问题（如植入着色问题）中的算法极限。
• 识别SA相较于贝叶斯最优算法（如信念传播BP）表现欠佳的原因，特别是由于被吸引至玻璃态。
• 通过将热力学相变（旋光点）与非平衡Glauber动力学相联系，提出SA算法阈值的分析估计。
• 提出并评估一种改进算法——复制模拟退火（RSA），该算法通过多个弱耦合副本实现最优性能。
• 推导一个近似分析理论，预测在副本数很大的极限下向植入解的过渡。

提出的方法

• 在贝叶斯推断的教师-学生场景中，对稀疏随机图上的植入着色问题进行建模。
• 应用带有温度调度的模拟退火（SA），采样后验分布，并追踪其收敛至玻璃态的过程。
• 引入复制模拟退火（RSA），其中多个系统的副本同时冷却，共享相同的哈密顿量结构。
• 采用植入技术在有限温度下将BP初始化于植入的玻璃态附近，从而实现对动力学相变温度 $T_d$ 的数值估计。
• 对复制系统上的BP方程进行线性稳定性分析，无需完整模拟即可高效计算 $T_d$。
• 基于顺磁相的稳定性，在副本数 $y$ 很大的极限下，推导RSA算法阈值的分析近似。

实验结果

研究问题

• RQ1 为何模拟退火（SA）在稀疏推断问题中无法恢复植入解，尽管其具有鲁棒性？
• RQ2 SA算法阈值的分析机制是什么？它与热力学相变有何关联？
• RQ3 复制模拟退火（RSA）算法如何克服标准SA的局限性？其性能与贝叶斯最优推断相比如何？
• RQ4 RSA算法是否实现了信号恢复的信息论阈值？如果是，在何种条件下实现？
• RQ5 在副本数很大的极限下，RSA算法阈值的分析预测是什么？

主要发现

• 模拟退火（SA）在恢复植入解方面表现次优，原因在于其被吸引至玻璃态，而这一现象不影响信念传播（BP）算法。
• 通过比较顺磁相的旋光点与动力学临界温度 $T_d$，SA的算法阈值实现了分析估计，建立了热力学与非平衡动力学之间的根本联系。
• 复制模拟退火（RSA）实现了贝叶斯最优性能，数值证据表明其算法阈值与信息论阈值一致。
• 当 $y > 1$ 时，复制系统中的动力学相变变为连续相变，而 $y=1$ 时为不连续相变，这使得可通过线性稳定性分析稳定高效地计算 $T_d$。
• 发展了一种近似分析理论，可预测在副本数 $y$ 很大的极限下RSA向植入解的过渡，证实了其最优性能。
• 本研究支持以下观点：若先验参数与生成模型不匹配，反而可能产生最优且鲁棒的算法，RSA的性能即为此提供了例证。