[論文レビュー] Stochastic Variance-Reduced Hamilton Monte Carlo Methods

Difan Zou, Pan Xu+1 more|arXiv (Cornell University)|Feb 13, 2018

Markov Chains and Monte Carlo Methods参考文献 43被引用数 6

ひとこと要約

本稿では、滑らかで強く対数凸な分布からのサンプリングに効率的な、確率的分散低減ハミルトニアンモンテカルロ（SVR-HMC）手法を提案する。確率的最適化からの分散低減技術をHMCに統合することで、2-ウォッシャーライン距離においてε-精度に到達するための勾配複雑度は$ otimesig{(}n + \kappa^{2}d^{1/2}/\epsilon + \kappa^{4/3}d^{1/3}n^{2/3}/\epsilon^{2/3}\big{)}$ に抑えられ、広いパラメータ範囲において既存のHMCおよび確率的勾配HMC手法を上回る性能を発揮する。

ABSTRACT

We propose a fast stochastic Hamilton Monte Carlo (HMC) method, for sampling from a smooth and strongly log-concave distribution. At the core of our proposed method is a variance reduction technique inspired by the recent advance in stochastic optimization. We show that, to achieve $ε$ accuracy in 2-Wasserstein distance, our algorithm achieves $ ilde O(n+κ^{2}d^{1/2}/ε+κ^{4/3}d^{1/3}n^{2/3}/ε^{2/3})$ gradient complexity (i.e., number of component gradient evaluations), which outperforms the state-of-the-art HMC and stochastic gradient HMC methods in a wide regime. We also extend our algorithm for sampling from smooth and general log-concave distributions, and prove the corresponding gradient complexity as well. Experiments on both synthetic and real data demonstrate the superior performance of our algorithm.

研究の動機と目的

• 滑らかで強く対数凸な分布からのサンプリングに、ハミルトニアンモンテカルロ（HMC）を用いてより高速な手法を開発すること。
• 確率的最適化からの分散低減技術を活用して、HMCにおける勾配評価の計算コストを低減すること。
• 最先端のHMCおよび確率的勾配HMC手法と比較して、勾配複雑度の観点からより優れた収束レートを達成すること。
• 滑らかで対数凸な一般分布への拡張を図り、その収束特性を分析すること。

提案手法

• 分散低減を統合したHMCフレームワークに適合する、確率的分散低減ハミルトニアンモンテカルロ（SVR-HMC）アルゴリズムを提案する。
• HMC更新ステップにおける確率的勾配の分散低減に、コントロールバリアンス戦略を用いる。
• ノイズの低減と精度の維持を図るため、周期的な全勾配更新を採用する。
• 強い対数凸性の下でSVR-HMCの新たな収束解析を導出し、ターゲット分布との2-ウォッシャーライン距離を上限で評価する。
• 混合速度と安定性の両立を図るため、ステップサイズおよびモーメンタムパラメータのスケジューリングを導入する。
• 滑らかで対数凸な一般分布への適用を可能とするスムージング技術を用いて、その方法を拡張し、対応する収束保証を証明する。

実験結果

リサーチクエスチョン

• RQ1 確率的最適化からの分散低減技術は、ハミルトニアンモンテカルロに効果的に適応可能か。サンプリング効率が向上するか。
• RQ2 強い対数凸性の下で、2-ウォッシャーライン距離においてε-精度に到達するための、確率的HMC手法の最適な勾配複雑度は何か。
• RQ3 提案されたSVR-HMC手法は、既存のHMCおよび確率的勾配HMC手法と比較して、収束速度および勾配複雑度の観点でどのように異なるか。
• RQ4 分散低減フレームワークは、強い凸性のケースに限らず、一般の滑らかで対数凸な分布へ拡張可能か。

主な発見

• 提案されたSVR-HMC手法は、滑らかで強く対数凸な分布に対して、2-ウォッシャーライン距離においてε-精度に到達するための勾配複雑度が$\widetilde{O}\big{(}n + \kappa^{2}d^{1/2}/\epsilon + \kappa^{4/3}d^{1/3}n^{2/3}/\epsilon^{2/3}\big{)}$ に抑えられることを示した。
• この複雑度は、特にnが大きく、またはεが小さい場合に、最先端のHMCおよび確率的勾配HMC手法を広いパラメータ範囲で上回る。
• 一般の滑らかで対数凸な分布に対しても、同様の勾配複雑度の上限が達成され、強い凸性のケースに限らない適用可能性が拡張された。
• 合成データおよび実データを用いた実験により、SVR-HMCがベースライン手法よりも高速に収束し、より高いサンプリング精度を達成することが確認された。