[论文解读] Computational Separations between Sampling and Optimization

Kunal Talwar|arXiv (Cornell University)|Nov 5, 2019

Machine Learning and Algorithms被引用 5

一句话总结

本文通过证明在非凸贝叶斯学习中，采样可能高效而优化为NP难，反之亦然，建立了采样与优化之间的计算分离，即使在光滑且Lipschitz连续的函数下也成立。此外，本文揭示了在临界温度参数λ处存在一个尖锐的相变，当λ超过某一阈值时，高效采样变为NP难。

ABSTRACT

Two commonly arising computational tasks in Bayesian learning are Optimization (Maximum A Posteriori estimation) and Sampling (from the posterior distribution). In the convex case these two problems are efficiently reducible to each other. Recent work (Ma et al. 2019) shows that in the non-convex case, sampling can sometimes be provably faster. We present a simpler and stronger separation. We then compare sampling and optimization in more detail and show that they are provably incomparable: there are families of continuous functions for which optimization is easy but sampling is NP-hard, and vice versa. Further, we show function families that exhibit a sharp phase transition in the computational complexity of sampling, as one varies the natural temperature parameter. Our results draw on a connection to analogous separations in the discrete setting which are well-studied.

研究动机与目标

• 研究贝叶斯学习中从后验分布采样与优化对数似然函数之间的计算关系。
• 确定在非凸设置下，当温度参数λ变化时，采样是否可能比优化更简单。
• 证明采样与优化在理论上不可比较：存在某些函数族，其中一者容易而另一者为NP难。
• 识别采样复杂度在反温度λ函数下的尖锐阈值。
• 将oracle模型的分离性结果强化为NP难性，从而在某些情况下排除采样问题的黑箱与非黑箱算法。

提出的方法

• 构造了一类连续、Lipschitz的函数族，其中采样高效但优化为NP难，通过从图上独立集问题的归约实现。
• 通过函数f实现从连续到离散的归约，该函数将超立方体上的点映射为惩罚值，基于其对应的顶点集是否为图中的独立集。
• 利用反温度λ控制Gibbs分布，将采样问题与Δ-正则图上的独立集分布联系起来。
• 应用Weitz（2006）和Sly & Sun（2012）关于采样独立集的FPRAS复杂度存在相变的阈值结果。
• 应用定理4，证明当λ ≥ 1/d时，从exp(−λf(x))中采样可近似于从exp(λ|I|)中采样，从而将离散复杂度结果转移至连续设置。
• 在假设NP ≠ RP的前提下，证明采样为NP难，基于在稠密图中近似独立集数量的困难性。

实验结果

研究问题

• RQ1 在非凸贝叶斯学习中，即使对于光滑且Lipschitz连续的函数，采样是否可能严格比优化更简单？
• RQ2 是否存在一类函数，使得优化容易但采样为NP难，尤其是作为反温度λ的函数？
• RQ3 当λ增加时，采样计算复杂度是否存在类似离散情况的尖锐相变？
• RQ4 能否将采样与优化之间的oracle模型分离性结果强化为NP难性，从而排除非黑箱算法？
• RQ5 在连续分布中，采样与优化的复杂度在多大程度上依赖于温度参数λ？

主要发现

• 存在一类定义在d维球上的连续、1-Lipschitz函数族，其采样高效但优化为NP难，即使在仅有f及其梯度的黑箱访问下亦成立。
• 当λ ≥ 2d且η < 1 − exp(−Ω(d))时，从Gibbs分布exp(−λf(x))中采样为NP难，除非NP = RP。
• 采样复杂度存在尖锐相变：当λ < λ_c时，可在poly(d/η)时间内实现高效的η-采样；但当λ > λ_c时，除非NP = RP，否则不存在多项式时间η-采样器。
• 采样困难性不仅对总变差距离成立，也对Wasserstein距离1/16成立，如附录Remark 4中的归约所示。
• 优化即使在弱访问模型下仍保持简单：从随机初始化出发的梯度下降法以高概率收敛至全局最小值，且所有局部极小值均为全局极小值。
• 该函数族在给定x的t比特表示下，可在poly(d,t)时间内高效计算，确保其实际可实现性。