[論文レビュー] Antithetic Riemannian Manifold And Quantum-Inspired Hamiltonian Monte Carlo

Wilson Tsakane Mongwe, Rendani Mbuvha+1 more|arXiv (Cornell University)|Jul 5, 2021

Markov Chains and Monte Carlo Methods参考文献 27被引用数 5

ひとこと要約

本稿では、分散低減と有効サンプルサイズの向上を図るために運動量の反対符号を利用したリーマン多様体ハミルトニアンモンテカルロ（RMHMC）および量子インスパイアドハミルトニアンモンテカルロ（QIHMC）のアンチテティック版を導入する。結果として、両新アルゴリズムともアンチテティックHMCを上回る性能を示し、A-QIHMCは全データセットで最高の正規化有効サンプルサイズを達成した。一方、A-RMHMCはロジスティック回帰タスクで優れた性能を示した。

ABSTRACT

Markov Chain Monte Carlo inference of target posterior distributions in machine learning is predominately conducted via Hamiltonian Monte Carlo and its variants. This is due to Hamiltonian Monte Carlo based samplers ability to suppress random-walk behaviour. As with other Markov Chain Monte Carlo methods, Hamiltonian Monte Carlo produces auto-correlated samples which results in high variance in the estimators, and low effective sample size rates in the generated samples. Adding antithetic sampling to Hamiltonian Monte Carlo has been previously shown to produce higher effective sample rates compared to vanilla Hamiltonian Monte Carlo. In this paper, we present new algorithms which are antithetic versions of Riemannian Manifold Hamiltonian Monte Carlo and Quantum-Inspired Hamiltonian Monte Carlo. The Riemannian Manifold Hamiltonian Monte Carlo algorithm improves on Hamiltonian Monte Carlo by taking into account the local geometry of the target, which is beneficial for target densities that may exhibit strong correlations in the parameters. Quantum-Inspired Hamiltonian Monte Carlo is based on quantum particles that can have random mass. Quantum-Inspired Hamiltonian Monte Carlo uses a random mass matrix which results in better sampling than Hamiltonian Monte Carlo on spiky and multi-modal distributions such as jump diffusion processes. The analysis is performed on jump diffusion process using real world financial market data, as well as on real world benchmark classification tasks using Bayesian logistic regression.

研究の動機と目的

• ハミルトニアンモンテカルロ（HMC）サンプラーにおける高い分散と低い有効サンプルサイズを解消するため、アンチテティックサンプリングを統合すること。
• すでに複雑な事後分布におけるサンプリングを改善するリーマン多様体HMC（RMHMC）および量子インスパイアドHMC（QIHMC）に、アンチテティックサンプリングを拡張すること。
• アンチテティック版のRMHMCおよびQIHMCが、実世界のベイズ推論タスクにおいてアンチテティックHMCよりも高い有効サンプルサイズを達成するかどうかを評価すること。
• ジャンプディフュージョン過程（ファイナンスデータ）およびベイズ的ロジスティック回帰ベンチマークにおいて、原始的および時間正規化有効サンプルサイズの両面から性能を比較すること。

提案手法

• 運動量の符号を反対にした2つのRMHMCチェーンを結合することでアンチテティックRMHMCを提案し、RMHMCの局所幾何学に依存するダイナミクスを保持するとともに、分散を低減する。
• 量子インスパイアドランダムマス行列の定式化にアンチテティックサンプリングを適用することでアンチテティックQIHMCを構築し、多次元およびスパイク状の事後分布における探索性を向上させる。
• 共通の乱数ストリームを用いてチェーンを結合することで、不偏推定と相関性の低減による分散低減を実現する。
• 固定パス長およびチューニングされたステップサイズを用いてアルゴリズムを実装し、実世界のデータセット上で性能を評価する。
• 実行時間で正規化した多変量有効サンプルサイズ（mESS）を用いて計算効率を評価する。
• HMC、アンチテティックHMC、RMHMC、アンチテティックRMHMC、QIHMC、アンチテティックQIHMCの全手法を、mESS、実行時間、時間正規化mESSの観点から比較する。

実験結果

リサーチクエスチョン

• RQ1 アンチテティックサンプリングは、相関的かつ曲がった事後分布におけるリーマン多様体ハミルトニアンモンテカルロの有効サンプルサイズを向上させるか？
• RQ2 アンチテティックサンプリングは、ジャンプディフュージョン過程のような多次元およびスパイク状の事後分布における量子インスパイアドハミルトニアンモンテカルロの性能を向上させるか？
• RQ3 アンチテティック版のRMHMCおよびQIHMCは、有効サンプルサイズおよび計算効率の観点からアンチテティックHMCに比べて優れているか？
• RQ4 幾何学に配慮したダイナミクス（RMHMC）とアンチテティックサンプリングの組み合わせは、ベイズ的ロジスティック回帰タスクで優れた性能を発揮するか？
• RQ5 アンチテティックサンプリングによる性能向上は、異なる種類のターゲット事後分布（例：多次元 vs. 相関的）において一貫しているか？

主な発見

• アンチテティックRMHMCは、ベイズ的ロジスティック回帰データセットで最高の多変量有効サンプルサイズ（mESS）を達成し、アンチテティックHMCおよびQIHMCを上回った。
• アンチテティックQIHMCは、S&P 500およびUSDZARファイナンスデータを含む全データセットで最高の正規化mESS（1秒あたりのmESS）を達成した。
• S&P 500およびUSDZARのジャンプディフュージョンデータセットでは、アンチテティックQIHMCが最高のmESSを達成し、多次元およびスパイク状の事後分布における優位性を裏付けた。
• すべてのアンチテティックバージョン（A-HMC、A-RMHMC、A-QIHMC）は、非アンチテティック版よりも高いmESSを達成しており、アンチテティックサンプリングの一般的有効性を示した。
• オーストラリアおよびドイツのデータセットでは、アンチテティックRMHMCが最高の正規化mESS（17.23 mESS/sec）を達成し、他の手法を顕著に上回った。
• すべてのアルゴリズムのアンチテティック版は、非アンチテティック版よりも高いmESSを示しており、分散低減の観点からアンチテティックMCMCの有効性を裏付けた。