[論文レビュー] Quantum-Inspired Hamiltonian Monte Carlo for Bayesian Sampling

Ziming Liu, Zheng Zhang|arXiv (Cornell University)|Dec 4, 2019

Markov Chains and Monte Carlo Methods参考文献 42被引用数 5

ひとこと要約

本稿では、量子力学的エネルギー-時間不確定性関係にインspiredされた、粒子の質量を確率的正定値行列として扱うベイズ的サンプリング手法、Quantum-Inspired Hamiltonian Monte Carlo (QHMC) を提案する。時間スケールを適応的に制御することで、スパイク的で多次元的な事後分布においてサンプリング効率を向上させ、確率的勾配バージョン（QSGNHT）は、ニューラルネットワークのプルーニングおよび画像ノイズ除去において、HMC やその変種を上回る優れた性能を示した。

ABSTRACT

Hamiltonian Monte Carlo (HMC) is an efficient Bayesian sampling method that can make distant proposals in the parameter space by simulating a Hamiltonian dynamical system. Despite its popularity in machine learning and data science, HMC is inefficient to sample from spiky and multimodal distributions. Motivated by the energy-time uncertainty relation from quantum mechanics, we propose a Quantum-Inspired Hamiltonian Monte Carlo algorithm (QHMC). This algorithm allows a particle to have a random mass matrix with a probability distribution rather than a fixed mass. We prove the convergence property of QHMC and further show why such a random mass can improve the performance when we sample a broad class of distributions. In order to handle the big training data sets in large-scale machine learning, we develop a stochastic gradient version of QHMC using Nos{é}-Hoover thermostat called QSGNHT, and we also provide theoretical justifications about its steady-state distributions. Finally in the experiments, we demonstrate the effectiveness of QHMC and QSGNHT on synthetic examples, bridge regression, image denoising and neural network pruning. The proposed QHMC and QSGNHT can indeed achieve much more stable and accurate sampling results on the test cases.

研究の動機と目的

• スパースかつ低ランクなベイズモデリングにおいて一般的に見られる、スパイク的で多次元的な事後分布からのサンプリングにおいて、標準的 Hamiltonian Monte Carlo (HMC) の非効率性を解消すること。
• 量子力学的エネルギー-時間不確定性関係を活用し、確率的質量行列を用いて時間スケールを適応的に制御することで、サンプリング戦略をより効果的にすること。
• 大規模な機械学習に適したスケーラブルな確率的勾配バージョン、QSGNHT を開発し、定常分布に対して理論的保証を与えること。
• 回帰、画像ノイズ除去、ニューラルネットワークのプルーニングを含む、合成および実世界のベイズ学習タスクにおいて、サンプリングの正確性と収束安定性の向上を実証すること。

提案手法

• 粒子質量行列を固定されたスカラーまたは行列ではなく、確率分布から抽出される確率的正定値行列とする QHMC を提案する。
• 確率的勾配バージョンにおいて熱的平衡を維持するため、Nosé-Hoover ステータスターを用いる。これにより、正しい定常分布が保証される。
• バッチ推定勾配と、サンプルされた質量に下限 $m_0$ を設けることで数値的不安定性を回避する、QHMC の確率的勾配バージョン QSGNHT を導入する。
• 詳細なバランスと真の事後分布への収束を保証するため、サンプリングプロセスにメトロポリス・ハスティングス補正ステップを組み込む。
• 異なる分布タイプに対応するための柔軟で効率的な実装を提供する3つのパrametrization（S-QHMC, D-QHMC, M-QHMC）を適用する。
• 理論的分析により、QHMC が真の事後分布に収束することを証明し、確率的微分方程式を用いて QSGNHT の定常分布の妥当性を正当化する。

実験結果

リサーチクエスチョン

• RQ1 固定質量 HMC と比較して、ハミルトニアン力学における確率的質量行列が、多次元的かつスパイク的な事後分布におけるサンプリング効率を向上させ得るか？
• RQ2 量子力学的エネルギー-時間不確定性関係は、ベイズ推論におけるより効果的なサンプリング戦略をどのようにインスパイアするか？
• RQ3 QHMC の確率的勾配バージョンは、大規模データセットにスケーリング可能でありながら、正しい定常分布を維持できるか？
• RQ4 QHMC は、ニューラルネットワークのプルーニングや画像ノイズ除去といった実世界のベイズ学習タスクにおいて、標準的 HMC や SGHMC、SGLD を上回る性能を示せるか？
• RQ5 QHMC が真の事後分布に収束する理論的条件は何か？

主な発見

• ニューラルネットワークのベイズ的プルーニング後、MNIST 画像分類において QSGNHT は SGNHT よりも 2% 高いテスト精度（96.6% ± 0.2）を達成した。
• ニューラルネットワークのプルーニングにおいて、提案された QSGNHT は SGNHT よりも 14% 高い圧縮率（54.2 ± 2.1）を達成し、より優れたモデルスパarsity を示した。
• 画像ノイズ除去において、QHMC と QSGNHT は HMC や SGHMC よりもより正確で安定した再構成を生成した。特に、急激な変化を示す領域で顕著な優位性を示した。
• 合成された多次元分布において、QHMC はすべてのモードを適切に探索したが、固定時間スケールの制限により、標準的 HMC は適切に混合できなかった。
• 理論的分析により、QHMC が真の事後分布に収束することを確認し、QSGNHT が確率的勾配下でも正しい定常分布を維持することが示された。
• サンプルされた質量に下限 $m_0$ を設けることで、QSGNHT の数値的発散を防止し、トレーニングの安定性が向上した。