[論文レビュー] Introducing an Explicit Symplectic Integration Scheme for Riemannian Manifold Hamiltonian Monte Carlo

Adam D. Cobb, Atılım Güneş Baydin+2 more|arXiv (Cornell University)|Oct 14, 2019

Model Reduction and Neural Networks参考文献 33被引用数 18

ひとこと要約

本稿では、リーマン多様体ハミルトニアンモンテカルロ（RMHMC）の明示的シンプレクティック積分法を導入し、ルンゲ・クッタ手順における反復的固定点反復の必要性を低減する。高次導関数の計算を最小限に抑えることで、同等のサンプリング精度を維持しながら、壁時計時間の観点からほぼ2倍の高速化を達成した。この手法は、オープンソースの hamiltorch パッケージを用いて、ベイジアン論理回帰および階層モデルにおいて検証された。

ABSTRACT

We introduce a recent symplectic integration scheme derived for solving physically motivated systems with non-separable Hamiltonians. We show its relevance to Riemannian manifold Hamiltonian Monte Carlo (RMHMC) and provide an alternative to the currently used generalised leapfrog symplectic integrator, which relies on solving multiple fixed point iterations to convergence. Via this approach, we are able to reduce the number of higher-order derivative calculations per leapfrog step. We explore the implications of this integrator and demonstrate its efficacy in reducing the computational burden of RMHMC. Our code is provided in a new open-source Python package, hamiltorch.

研究の動機と目的

• 非可分ハミルトニアンに起因するRMHMCの高い計算コストに対処すること。
• RMHMCにおける1ステップごとの高次導関数計算回数を削減すること。
• 従来の暗黙的スキームで用いられる反復的ソルバーを回避する、より効率的な明示的シンプレクティック積分法の開発。
• ベイジアンニューラルネットワークのような複雑なモデルに対するRMHMCのスケーラビリティと実用性の向上。
• 広範な採用を促進するため、ユーザーフレンドリーでGPU加速対応の実装を、hamiltorch Pythonパッケージを通じて提供すること。

提案手法

• 非可分ハミルトニアンを対象とした、明示的シンプレクティック積分スキームの提案。
• 複数回の固定点反復を要する暗黙的一般化ルンゲ・クッタ積分法の代わりに、直接的で明示的な更新則を導入。
• PyTorchを介した自動微分を活用し、必要なリーマン幾何学的量（計量、クリスティオーベル記号）を効率的に計算。
• シンプレクティック構造を保持しつつ、高次導関数による計算オーバーヘッドを最小限に抑えるように統合法を設計。
• hamiltorchパッケージに実装し、最小限のコード変更でGPUベースのサンプリングを可能に。
• 統一APIにより、HMC、RMHMC、明示的RMHMCの間でのスイッチングをシームレスにサポート。

実験結果

リサーチクエスチョン

• RQ1 明示的シンプレクティック積分法は、サンプリング精度を損なわずにRMHMCの計算負荷を低減できるか？
• RQ2 壁時計時間と収束性の観点から、明示的RMHMCと暗黙的RMHMCの性能はどのように比較されるか？
• RQ3 新しい積分法は、1ステップごとの高次導関数評価回数をどの程度削減するか？
• RQ4 明示的RMHMCは、ファンネル分布のような困難な事後分布幾何構造に対しても、暗黙的RMHMCと同等の事後分布近似品質を達成できるか？
• RQ5 実世界のモデル、例えばベイジアン論理回帰や階層モデルにおいて、この新しい手法は実用的にどの程度スケーリングできるか？

主な発見

• 明示的RMHMCは、暗黙的RMHMCと比較して、壁時計時間でほぼ2倍の高速化を達成し、収束までの時間を約2/3まで短縮した。
• 高速化にもかかわらず、明示的RMHMCは同等のサンプリング性能を維持しており、真の事後分布とのKLダイバージェンスが0.142と、暗黙的RMHMCの0.130とほぼ同等であった。
• 有効サンプルサイズは、HMC や NUTS よりも両方のRMHMCバリアントで高く、自己相関が急速に減少し、DKL(p(v)∥q(v))の推移が速く plateau に達していた。
• 反復的固定点反復を回避することで、1ステップごとの高次導関数計算回数が削減され、計算コストが直接的に低減された。
• パラメータ数431,080のベイジアンニューラルネットワークにおいて、hamiltorchはGPUで1秒間に116.33サンプルを生成したのに対し、CPUでは13.92サンプルにとどまり、強力なハードウェア加速効果が示された。
• 明示的RMHMCから得られた周辺事後分布の推定値は、特にファンネルの細い首部分のような高曲率領域で、バイアスが低く、真の事後分布とより良好に一致していた。