[論文レビュー] Fast Convergence for Langevin Diffusion with Manifold Structure

Ankur Moitra, Andrej Risteski|arXiv (Cornell University)|Feb 13, 2020

Markov Chains and Monte Carlo Methods参考文献 33被引用数 4

ひとこと要約

本稿は、行列分解問題における直交不変性など、対称性に起因する多様体構造を有する非対数凸分布におけるラングジュアン拡散の高速混合時間の境界を確立する。レベル集合の幾何構造を分析し、確率的微分方程式を活用することで、緩い条件下でも多項式時間のサンプリング保証を証明し、凸性を超えて、ベイズ推論やエネルギーに基づくモデルに関連する対称的で非凸な設定への高速混合を拡張する。

ABSTRACT

In this paper, we study the problem of sampling from distributions of the form p(x) \propto e^{-βf(x)} for some function f whose values and gradients we can query. This mode of access to f is natural in the scenarios in which such problems arise, for instance sampling from posteriors in parametric Bayesian models. Classical results show that a natural random walk, Langevin diffusion, mixes rapidly when f is convex. Unfortunately, even in simple examples, the applications listed above will entail working with functions f that are nonconvex -- for which sampling from p may in general require an exponential number of queries. In this paper, we focus on an aspect of nonconvexity relevant for modern machine learning applications: existence of invariances (symmetries) in the function f, as a result of which the distribution p will have manifolds of points with equal probability. First, we give a recipe for proving mixing time bounds for Langevin diffusion as a function of the geometry of these manifolds. Second, we specialize our arguments to classic matrix factorization-like Bayesian inference problems where we get noisy measurements A(XX^T), X \in R^{d imes k} of a low-rank matrix, i.e. f(X) = \|A(XX^T) - b\|^2_2, X \in R^{d imes k}, and βthe inverse of the variance of the noise. Such functions f are invariant under orthogonal transformations, and include problems like matrix factorization, sensing, completion. Beyond sampling, Langevin dynamics is a popular toy model for studying stochastic gradient descent. Along these lines, we believe that our work is an important first step towards understanding how SGD behaves when there is a high degree of symmetry in the space of parameters the produce the same output.

研究の動機と目的

• ベイズ推論やエネルギーに基づくモデルに生じる非対数凸分布からの効率的サンプリングの課題に取り組む。
• 非凸性にもかかわらず高速混合を可能にする構造的条件——特に等確率の多様体としての対称性由来の構造——を同定する。
• 分布のレベル集合の幾何構造とラングジュアン拡散の混合時間との間の一般枠組みを構築する。
• 直交不変性を有する行列因子分解に類似した問題に対する、証明可能な多項式時間サンプリング保証を確立する。

提案手法

• 分布のレベル集合と対称性多様体のリーマン幾何に基づいて、ラングジュアン拡散の混合時間の境界を求める一般的手順を導出する。
• 連続時間のラングジュアンスデ $ dX_t = -\beta \nabla f(X_t) dt + \sqrt{2} dB_t $ を分析し、曲率と対称性が混合時間を短縮することを示す。
• 伊藤の補題を用いてプロセスのモーメントを評価し、$ \mathbb{E}[\|X_t\|_F^p] \leq \text{poly}(d, \|M\|_F) $ を証明する。これは離散化誤差の制御を可能にする。
• カップリングの議論により離散化誤差の境界を確立し、$ \text{KL}(\hat{p}_T, p_T) \leq \text{poly}(d, \|M\|_F) \cdot h^2 $ を示す。ここで $ h $ はステップサイズである。
• 行列因子分解問題 $ f(X) = \|\mathcal{A}(XX^T) - b\|_2^2 $ にこの枠組みを適用し、直交変換に対して不変であることを示す。
• ピンスカーの不等式とモーメントの境界を用いて、$ f $ が多様体的対称性を有する場合、離散化ラングジュアンダイナミクスが多項式時間で混合することを証明する。

実験結果

リサーチクエスチョン

• RQ1 非対数凸分布で、等確率の多様体が対称性によって生じる場合、ラングジュアンダイナミクスは高速混合を達成できるか？
• RQ2 レベル集合および対称性多様体の幾何構造は、ラングジュアン拡散の混合時間にどのように影響するか？
• RQ3 行列多様体構造などの関数 $ f $ に対するどのような条件が、非凸性にもかかわらず、証明可能な高速サンプリングを可能にするか？
• RQ4 ステップサイズおよび潜在的な幾何構造に依存する離散化ラングジュアンダイナミクスの混合時間は、どの程度境界づけられるか？
• RQ5 行列因子分解問題における直交不変性の存在は、サンプリングアルゴリズムの収束にどのように影響するか？

主な発見

• 本稿は、対称性多様体のリーマン幾何とラングジュアン拡散の混合時間との間の一般枠組みを確立する。
• 直交不変性を有する行列因子分解問題において、ラングジュアンダイナミクスの混合時間は次元および問題パラメータに関して多項式的である。
• 著者らは $ \mathbb{E}[\|X_t\|_F^p] \leq \|X_0\|_F^p e^{-\frac{4}{5}t \frac{p}{d^2}} + 25d^2\left(\frac{\|M\|_F}{p} + \frac{1}{\beta^2}dp\right) $ を証明し、モーメントの制御を保証する。
• 離散化誤差は $ \text{KL}(\hat{p}_T, p_T) \leq \text{poly}(d, \|M\|_F) \cdot h^2 $ として境界づけられ、多項式時間サンプリングを可能にする。
• この枠組みは、行列補完、行列センシング、ノイズあり行列因子分解といった具体的な問題に適用可能であり、すべてが証明可能な高速混合を有する。
• 結果は、パrameter空間における対称性と曲率が、$ f $ が非凸であっても効率的サンプリングを可能にする可能性を示唆しており、非対数凸性が非効率性を意味するとする従来の見解に挑戦する。