[論文レビュー] Note on the geodesic Monte Carlo

Andrew J. Holbrook|arXiv (Cornell University)|May 14, 2018

Statistical and numerical algorithms被引用数 3

ひとこと要約

本稿では、埋め込み多様体上のベイズ推論のための測地線モンテカルロ（gMC）の、概念的により単純な2つの代替的導出を提示する。これにより、元のアルゴリズムが非自明な質量行列を持つより広いクラスのアルゴリズムの特別な場合として生じることが明らかになる。埋め込み座標系において完全に作業し、内面的な多様体幾何学を避けることで、元の測地線モンテカルロが、ユークリッド空間に埋め込まれた多様体上に定義された事前分布を持つ場合に、受容確率におけるヤコビアン補正の必要性がなくなることが示される。

ABSTRACT

Geodesic Monte Carlo (gMC) is a powerful algorithm for Bayesian inference on non-Euclidean manifolds. The original gMC algorithm was cleverly derived in terms of its progenitor, the Riemannian manifold Hamiltonian Monte Carlo (RMHMC). Here, it is shown that alternative and theoretically simpler derivations are available in which the original algorithm is a special case of two general classes of algorithms characterized by non-trivial mass matrices. The proposed derivations work entirely in embedding coordinates and thus clarify the original algorithm as applied to manifolds embedded in Euclidean space.

研究の動機と目的

• 測地線モンテカルロ（gMC）の理論的基盤を、より直感的な原理から導出することで明確化すること。
• ターゲット分布が埋め込みユークリッド空間に定義されている際、元のgMCが内面的多様体幾何学に依存していることによる混乱を解消すること。
• 元のgMCアルゴリズムが非自明な質量行列を持つ2つの一般クラスの特別な場合であることを示すこと。
• 事前分布が埋め込み座標系に定義されている場合、ヤコビアン補正が不要であることを示すこと。これは当初の仮定とは反する。
• 特に、ボンチネン＝フォン・ミーゼス分布や行列型ボンチネン＝フォン・ミーゼス＝フォン・ミーゼス分布などの、ユークリッド空間に定義された事前分布を持つモデルに対して、gMCの実装と拡張をより直感的に行えるようにすること。

提案手法

• 等長埋め込み写像 $x: \mathcal{Q} \to \mathbb{R}^d$ を用いて、内面座標から埋め込み座標への変数変換によりgMCを導出する。
• 質量行列 $M = J_x(q) G(q)^{-1}$ を導入し、運動量を埋め込み空間における速度に似た変数 $v = Mp$ に変換する。
• 射影行列 $\Pi_x$ を用いて、埋め込み位置 $x$ と変換された運動量 $v$ のもとでのハミルトニアンを定式化する。
• ハミルトニアンを2つの部分に分割：運動量の摂動に寄与する $H^{[1]}$ と測地線運動に寄与する $H^{[2]}$ に分け、逐次的シミュレーションを可能にする。
• 速度に基づく力学を用い、$v$ に退化したガウス事前分布を導入することで、2番目のアルゴリズムクラスを導出。これにより、対数偽行列式が相殺され、受容確率が簡略化される。
• 速度と運動量の変換に基づくヤコビアン補正をメトロポリス・ハスティングス補正に適用。$M = I$ の場合に特に簡略化される。

実験結果

リサーチクエスチョン

• RQ1 ターゲット分布が埋め込みユークリッド空間に定義されている際、測地線モンテカルロが内面的多様体幾何学に依存せずに導出可能か？
• RQ2 事前分布が埋め込み座標系に定義されている場合、ハミルトニアンに対数ヤコビアン項を含める必要があるか？
• RQ3 元のgMCを包含する一般クラスのアルゴリズムは何か？非自明な質量行列は力学にどのように影響を与えるか？
• RQ4 事前分布が埋め込み空間に定義されている場合、gMCの受容確率はどのように簡略化可能か？質量行列は果たす役割は何か？
• RQ5 元のgMCアルゴリズムは、速度または運動量変換に基づくより広い、より直感的なアルゴリズム族の特別な場合として回復可能か？

主な発見

• 元の測地線モンテカルロアルゴリズムは、非自明な質量行列を持つ2つの一般クラスの特別な場合として、埋め込み座標系を用いた導出により得られる。
• 事前分布が埋め込みユークリッド空間（例：球面上のボンチネン＝フォン・ミーゼス分布）に定義されている場合、ハミルトニアンにおける対数ヤコビアン項は不要であり、省略可能である。
• 速度に基づく導出では受容確率が著しく簡略化され、対数偽行列式の項が相殺され、より明確な式が得られる：$\alpha = -\log\pi(x_0) + \frac{1}{2}v_0^T(\Pi_{x_0}M\Pi_{x_0})v_0 + \log\pi(x_T) - \frac{1}{2}v_T^T(\Pi_{x_T}M\Pi_{x_T})v_T$。
• $M = I$ の場合、元のgMCが回復され、ヤコビアン補正は完全に消える。これにより、アルゴリズムがこの場合にのみシンプレクティックであることが確認される。
• 導出により、gMCは、定式化の仕方によって余接束または接束上の確率的ランダムウォークとして解釈可能であることが明確になり、特に速度ベースのバージョンがより直感的であることが示された。
• 内面幾何学や座標系の使用を避けることで、埋め込み空間に事前分布が定義されたモデルに対して、よりアクセス可能で実用的なアプローチが可能になった。