[論文レビュー] Nonconvex sampling with the Metropolis-adjusted Langevin algorithm

Oren Mangoubi, Nisheeth K. Vishnoi|arXiv (Cornell University)|Feb 22, 2019

Markov Chains and Monte Carlo Methods参考文献 23被引用数 7

ひとこと要約

この論文は、非凸および弱い対数凸性を持つサンプリング設定におけるメトロポリス補正付きランジュバンアルゴリズム（MALA）の収束バウンドを改善し、3次および4次正則性条件を用いてエネルギー保存誤差を分析することで、その収束性を向上させている。著者らは、データの非一貫性および正則性仮定のもとで、次元dに対する非線形依存性を達成し、ベイズ回帰分析やゼロ-オール・ロス最適化の応用において、他の手法よりも高速な混合速度を達成していることを示している。

ABSTRACT

The Langevin Markov chain algorithms are widely deployed methods to sample from distributions in challenging high-dimensional and non-convex statistics and machine learning applications. Despite this, current bounds for the Langevin algorithms are slower than those of competing algorithms in many important situations, for instance when sampling from weakly log-concave distributions, or when sampling or optimizing non-convex log-densities. In this paper, we obtain improved bounds in many of these situations, showing that the Metropolis-adjusted Langevin algorithm (MALA) is faster than the best bounds for its competitor algorithms when the target distribution satisfies weak third- and fourth- order regularity properties associated with the input data. In many settings, our regularity conditions are weaker than the usual Euclidean operator norm regularity properties, allowing us to show faster bounds for a much larger class of distributions than would be possible with the usual Euclidean operator norm approach, including in statistics and machine learning applications where the data satisfy a certain incoherence condition. In particular, we show that using our regularity conditions one can obtain faster bounds for applications which include sampling problems in Bayesian logistic regression with weakly convex priors, and the nonconvex optimization problem of learning linear classifiers with zero-one loss functions. Our main technical contribution in this paper is our analysis of the Metropolis acceptance probability of MALA in terms of its "energy-conservation error," and our bound for this error in terms of third- and fourth- order regularity conditions. Our combination of this higher-order analysis of the energy conservation error with the conductance method is key to obtaining bounds which have a sub-linear dependence on the dimension $d$ in the non-strongly logconcave setting.

研究の動機と目的

• 非凸および弱い対数凸性を持つ分布におけるランジュバンアルゴリズムの収束が遅い問題に対処すること。
• 高次元で非強い対数凸性を持つ設定において、既存の競合手法を超えるMALAの混合時間バウンドを改善すること。
• ターゲット分布の3次および4次正則性条件を導入することで、より緊密な収束保証を確立すること。
• 機械学習および統計的問題におけるMALAがULAやRWMよりも実用的な利点を示すこと。
• データの非一貫性および滑らかさ仮定の下で、MALAの高速収束の理論的基盤を提供すること。

提案手法

• エネルギー保存誤差に分解されたポテンシャルエネルギーエラーと運動エネルギーエラーを介して、メトロポリス受容確率を分析する。
• ポテンシャル関数Uの勾配およびヘッセ行列に対する高次正則性条件（3次および4次）を導入する。
• 混合時間および到達時間のバウンドを導くために、コンductanceに基づく解析を用い、Cheeger定数および状態空間の幾何的性質と関連付ける。
• コンductance法をエネルギー誤差バウンドと組み合わせることで、次元dに対する非線形依存性を達成する。
• 出退確率を制御し、迅速な混合を保証するための「良い集合」構築法を採用する。
• ハンソン＝ハリントン不等式を用いて、マルコフ連鎖ステップにおけるガウスノイズの尾部挙動を制御する。

実験結果

リサーチクエスチョン

• RQ1 MALAは、非凸的かつ弱い対数凸性を持つサンプリング問題において、ULA や RWM と比較してより高速な収束を達成できるか？
• RQ2 ポテンシャル関数の3次および4次正則性条件は、標準的な作用素ノルム仮定と比較して、収束バウンドをどのように改善するか？
• RQ3 ベイズ回帰分析やゼロ-オール・ロス最適化にMALAを適用する際、データの非一貫性が果たす役割は何か？
• RQ4 エネルギー保存誤差解析を用いて、非強い対数凸性設定でも次元dに対する非線形依存性をMALAが達成できるか？
• RQ5 MALAが精度εに対して対数的依存性を示す指数的収束を達成する条件は何か？

主な発見

• 非凸設定におけるサンプリングにおいて、MALAは次元dに対する非線形依存性を示す混合時間バウンド Õ(d^{25/6} q_0^{-11/3} sin^{-4/3}(α_0) log(c/δ) log(β/δ)) を達成している。
• 3次および4次正則性条件を活用することで、MALAは弱い対数凸分布においてULA や RWM よりも高速な収束を実現している。
• 弱い凸的事前分布を用いたベイズ回帰分析では、高次正則性条件により、ユークリッド作用素ノルムに基づく境界よりも緊密な境界が得られる。
• ゼロ-オール・ロス最適化においては、非一貫性および滑らかさ仮定のもとでMALAはより高速な収束を達成し、グローバル最適解付近での効率的なサンプリングを可能にしている。
• 高次導関数を介してエネルギー保存誤差がバウンドされ、より緊密なコンductanceに基づく混合時間解析が可能になっている。
• 導出された条件下で、MALAの受容確率は高く（≥1/3）保たれ、迅速な混合および改善された収束レートを支持している。