[論文レビュー] Generalizing the No-U-Turn Sampler to Riemannian Manifolds

Michael Betancourt|arXiv (Cornell University)|Apr 6, 2013

Markov Chains and Monte Carlo Methods参考文献 2被引用数 32

ひとこと要約

この論文は、軌道統合における最大振動の折り返し点を特定する幾何的基準を導入することで、リーマン多様体ハミルトニアンモンテカルロ（RMHMC）へのノ・ユー・ターン・サンプラー（NUTS）の一般化を実現した。ハミルトニアンフローに沿って正準1形式をリー引きすることで運動量を軌道上にマッピングし、最適な統合時間を保証するとともに、二度と戻らないようにすることで、複雑で曲がった多様体上でのサンプリング効率を著しく向上させた。

ABSTRACT

Hamiltonian Monte Carlo provides efficient Markov transitions at the expense of introducing two free parameters: a step size and total integration time. Because the step size controls discretization error it can be readily tuned to achieve certain accuracy criteria, but the total integration time is left unconstrained. Recently Hoffman and Gelman proposed a criterion for tuning the integration time in certain systems with their No U-Turn Sampler, or NUTS. In this paper I investigate the dynamical basis for the success of NUTS and generalize it to Riemannian Manifold Hamiltonian Monte Carlo.

研究の動機と目的

• リーマン多様体ハミルトニアンモンテカルロ（RMHMC）における最適統合時間の原理的基準の欠如に対処すること。
• 標準的なユークリッド空間を超えて、曲がったリーマン多様体へNUTSを拡張すること。
• 標準NUTSが失敗する非凸な複雑なターゲット分布において、最大振動の折り返し点（TPOLO）を特定すること。
• 軌道が二度と戻らないようにするNUTSの一般化を開発し、無駄な計算と自己相関を低減すること。
• ハミルトニアンフローの幾何的不変量を用いて、RMHMCにおける統合時間の自動適応を可能にすること。

提案手法

• ハミルトニアンフローに沿って正準1形式 θ をリー引きすることで、多様体上の初期点から終点への運動量をマッピングする。
• 軌道に沿った時間平均された引き戻された運動量として、一般化された運動量平均 ρ(R_t) を定義する。
• 内積 ⟨p(R_t), ρ(R_t)⟩_Λ(R_t) < 0 に基づく停止基準を導入し、折り返し点に達したことを示す。
• リーマン計量を用いて運動エネルギーとハミルトニアンフローを定義することで、この基準をRMHMCに適用する。
• ρ(R_t) の連続積分を離散時間積分で近似することで、実用的な実装を可能にする。
• シンプレクティック幾何学とリーマン構造を活用し、基準が不変かつ幾何学的に意味を持つようにする。

実験結果

リサーチクエスチョン

• RQ1 標準的なユークリッド空間での折り返し点検出が失敗するリーマン多様体において、NUTS基準を一般化できるか？
• RQ2 ターゲット分布の事前知識なしに、RMHMCにおける最適統合時間を信頼性高く特定するための幾何的不変量は何か？
• RQ3 曲がった多様体上でのハミルトニアン軌道に沿って、運動量を一貫してマッピングする方法は何か？ これにより運動の逆転を検出できるか？
• RQ4 提案された基準は、バナナ型の事後分布のような非凸かつ歪んだ分布において、TPOLOを正しく特定できるか？
• RQ5 確率的プログラミングフレームワークで一般的に使われる離散積分器を用いて、この基準を実用的に実装できるか？

主な発見

• ソフトエーブス計量を用いた場合、バナナ型分布において一般化されたNUTS基準がTPOLOを正しく特定し、軌道の二度と戻らないことを回避した。
• 標準NUTSが誤った折り返し点検出により失敗する非凸的かつ曲がったターゲット分布に対しても、本手法は頑健である。
• 基準 ⟨p(R_t), ρ(R_t)⟩_Λ(R_t) < 0 は、最大振動の終了を信頼性高く示し、自己相関を最小限に抑え、提案の多様性を最大化する。
• 本手法は既存のRMHMC実装と互換性があり、Stanのような確率的プログラミングシステムへの統合が可能である。
• 幾何的基盤により、再パrameterizationに対して不変であり、ハミルトニアンフローのシンプレクティック構造を保つ。
• 特に動的挙動の過渡期でさえも、折り返し点で正確に軌道を終了させることで、計算の無駄を削減する。