[論文レビュー] Fast Convergence for Langevin Diffusion with Matrix Manifold Structure

Ankur Moitra, Andrej Risteski|arXiv (Cornell University)|Feb 13, 2020

Markov Chains and Monte Carlo Methods被引用数 4

ひとこと要約

本稿は、低ランク行列因子分解など、等確率解の多様体を有する対称性を示す非凸最適化問題におけるラングジュアン拡散の加速のための理論的枠組みを提案する。行列多様体構造と直交変換に対する不変性を活用することで、これらの多様体に集中する分布からのサンプリングにおける高速混合時間の境界を確立し、現代の機械学習で一般的な対称的パラメータ空間における確率的勾配降下法の理解の基盤を提供する。

ABSTRACT

In this paper, we study the problem of sampling from distributions of the form p(x) \propto e^{-\beta f(x)} for some function f whose values and gradients we can query. This mode of access to f is natural in the scenarios in which such problems arise, for instance sampling from posteriors in parametric Bayesian models. Classical results show that a natural random walk, Langevin diffusion, mixes rapidly when f is convex. Unfortunately, even in simple examples, the applications listed above will entail working with functions f that are nonconvex -- for which sampling from p may in general require an exponential number of queries. In this paper, we study one aspect of nonconvexity relevant for modern machine learning applications: existence of invariances (symmetries) in the function f, as a result of which the distribution p will have manifolds of points with equal probability. We give a recipe for proving mixing time bounds of Langevin dynamics in order to sample from manifolds of local optima of the function f in settings where the distribution is well-concentrated around them. We specialize our arguments to classic matrix factorization-like Bayesian inference problems where we get noisy measurements A(XX^T), X \in R^{d imes k} of a low-rank matrix, i.e. f(X) = \|A(XX^T) - b\|^2_2, X \in R^{d imes k}, and \beta the inverse of the variance of the noise. Such functions f are invariant under orthogonal transformations, and include problems like matrix factorization, sensing, completion. Beyond sampling, Langevin dynamics is a popular toy model for studying stochastic gradient descent. Along these lines, we believe that our work is an important first step towards understanding how SGD behaves when there is a high degree of symmetry in the space of parameters the produce the same output.

研究の動機と目的

• 非凸事後分布に対称性が存在する場合のラングジュアンダイナミクスにおける混合が遅い問題に対処すること。
• 目的関数 f における不変性が、目標分布 p(x) ∝ e^{-βf(x)} における等確率解の多様体をどのように誘導するかを分析すること。
• f が非凸であるが、局所最適解の低次元多様体が対称性によって誘導される設定において、ラングジュアンダイナミクスの証明可能な高速混合時間境界を導出すること。
• f(X) = ||A(XX^T) - b||² であり、f が直交変換に対して不変であるような行列因子化に類する問題（例：行列補完やセンシング）に分析を特化すること。
• 現代の機械学習で一般的な対称的パラメータ空間における確率的勾配降下法の挙動を理解する理論的基盤を提供すること。

提案手法

• 本手法は、f に由来する対称性に起因する局所最適解の多様体上でのラングジュアンダイナミクスの混合時間境界を証明するための枠組みを導入する。
• 特に、f が直交変換に対して不変であることに基づき、パラメータ空間の幾何的構造を活用することで、サンプリング問題の有効次元を低減する。
• 分布が対称的多様体に強く集中している場合に焦点を当て、収束速度の境界を求めるためにリーマン幾何学的手法を用いる。
• 主な技術的要素には、多様体構造に適合された濃縮不等式とスペクトルギャップ解析が含まれる。
• ノイズのある低ランク行列の測定を伴うベイズ推論問題（例：A(XX^T) = b に加法的ガウスノイズが加わる）に本手法を特化する。
• 弱い正則性および濃縮条件のもとで、非凸性にもかかわらず問題次元に関して多項式時間の混合時間の保証が得られることを確立する。

実験結果

リサーチクエスチョン

• RQ1 目的関数 f に由来する対称性によって等確率解の多様体を持つ場合、ラングジュアンダイナミクスはどのようにして高速混合を達成できるか？
• RQ2 f およびノイズレベル β にどのような条件が課されると、分布が局所最適解の対称的多様体に強く集中するようになるか？
• RQ3 連続的対称性（例：行列因子化における直交不変性）を有する非凸設定において、ラングジュアンダイナミクスの混合時間境界を確立できるか？
• RQ4 解空間の多様体構造は、標準的な非凸設定と比較して、どれほどサンプリング効率を向上させるか？
• RQ5 本フレームワークは、現代の機械学習モデルにおける対称的パラメータ空間における確率的勾配降下法の挙動をどのように説明するか？

主な発見

• 本稿は、非凸であっても、対称的局所最適解の多様体上でのラングジュアンダイナミクスに対して高速混合時間境界を確立した。
• 弱い正則性および濃縮仮定のもとで、問題次元に関して混合時間は多項式的のままである。
• 本フレームワークは、f が直交変換に対して不変であるような、行列補完、センシング、因子化といった重要な行列推論問題に適用可能である。
• 解析により、対称性に起因する多様体が効率的サンプリングを妨げないことが示された。これは、古典的な非凸サンプリングの障壁とは対照的である。
• 本研究の結果は、対称的パラメータ空間における確率的勾配降下法の収束を理解する理論的基盤を提供する。
• 本研究は、下位の幾何的構造に起因する非凸問題のクラスにおいて、サンプリングと最適化が効率的に行えることを特定した。