[论文解读] Optimal dimension dependence of the Metropolis-Adjusted Langevin Algorithm

Sinho Chewi, Chen Lü+4 more|arXiv (Cornell University)|Dec 23, 2020

Markov Chains and Monte Carlo Methods参考文献 33被引用 8

一句话总结

本文確立了馬爾可夫鏈蒙特卡洛方法中馬爾可夫鏈調整朗之萬演算法（MALA）在對數光滑且強對數凹分佈中抽樣時的最優維度依存關係。透過引入一種新型基於投影的馬爾可夫調整分析方法，作者證明在暖啟動條件下，混合時間為 $\widetilde{\Theta}(d^{1/2})$，從而解決了先前漸近尺度極限（$O(d^{1/3})$）與非漸近界（$O(d)$）之間的差距。

ABSTRACT

Conventional wisdom in the sampling literature, backed by a popular diffusion scaling limit, suggests that the mixing time of the Metropolis-Adjusted Langevin Algorithm (MALA) scales as $O(d^{1/3})$, where $d$ is the dimension. However, the diffusion scaling limit requires stringent assumptions on the target distribution and is asymptotic in nature. In contrast, the best known non-asymptotic mixing time bound for MALA on the class of log-smooth and strongly log-concave distributions is $O(d)$. In this work, we establish that the mixing time of MALA on this class of target distributions is $\widetildeΘ(d^{1/2})$ under a warm start. Our upper bound proof introduces a new technique based on a projection characterization of the Metropolis adjustment which reduces the study of MALA to the well-studied discretization analysis of the Langevin SDE and bypasses direct computation of the acceptance probability.

研究动机与目标

• 解決 MALA 混合時間在漸近尺度極限（$O(d^{1/3})$）與非漸近界（$O(d)$）之間的差異問題。
• 在強凸且光滑勢函數的全體類別上，確立 MALA 的最優維度依存關係。
• 發展一種非漸近分析方法，避免依賴於乘積分佈假設與高階導數條件。
• 彙整現有上界與下界之間在高維抽樣中 MALA 收斂速率的差距。

提出的方法

• 引入馬爾可夫調整的投影表徵，以分離接受機率與直接計算。
• 將 MALA 的分析簡化為對朗之萬 SDE 離散化形式的分析，並利用現有的收斂工具。
• 透過 MALA 路徑的三階段分解，控制提案與接受機制中的偏差。
• 利用集中不等式，建立當前狀態與提案狀態之間範數差異的高概率界。
• 應用接受機率的精細界 $A(\boldsymbol{x},\boldsymbol{y}) \leq \sqrt{a(\boldsymbol{x},\boldsymbol{y})}$，以控制導通率。
• 透過構造一個滿足 $\pi(E) \geq 1/2$ 的集合 $E$，並證明當 $h \gg d^{-1/3}$ 時，轉移機率指數衰減，從而建立導通率的下界。

实验结果

研究问题

• RQ1 在強凸且光滑勢函數的類別中，MALA 混合時間的最優維度依存關係為何？
• RQ2 由羅伯茨與羅森塔爾（1998）提出的 $O(d^{1/3})$ 標度是否在所有此類分佈中均一致成立，還是存在其失效的情況？
• RQ3 非漸近分析能否得出比現有 $O(d)$ 結果更緊緻的界？
• RQ4 $O(d^{1/3})$ 界對 MALA 是否緊緻？在較弱假設下是否可進一步改善？
• RQ5 具有高斯目標分佈的 MALA 的譜間隔為何？其如何隨維度與步長變化？

主要发现

• 在 $\alpha$-強凸且 $\beta$-光滑勢函數的類別中，MALA 在暖啟動條件下的混合時間為 $\widetilde{\Theta}(d^{1/2})$。
• 上界透過一種新型基於投影的分析方法確立，該方法避免了對馬爾可夫接受機率的直接計算。
• 下界分析表明，當 $h \gg d^{-1/3}$ 時，具有高斯目標的 MALA 導通率指數衰減，暗示混合時間至少為 $\Omega(d^{1/3})$。
• 具有高斯目標的 MALA 譜間隔上界為 $O(h)$，確認 $h \ll d^{-1/3}$ 是實現最優混合的必要條件。
• 羅伯茨與羅森塔爾（1998）提出的 $O(d^{1/3})$ 標度在光滑且強凸勢函數的全體類別中並非最優。
• 構造了一個反例，顯示對於某些無限可微的乘積分佈，MALA 需要 $h \ll d^{-1/3}$，從而一般性地否定了 $d^{1/3}$ 法則。