[論文レビュー] A Condition Number for Hamiltonian Monte Carlo

Ian Langmore, M. Dikovsky+3 more|arXiv (Cornell University)|May 23, 2019

Markov Chains and Monte Carlo Methods参考文献 27被引用数 4

ひとこと要約

本稿は、スペクトルノルムとシュターンノルムを組み合わせることで、多変量正規分布のターゲットにおけるサンプリング効率を定量化する、ハミルトニアンモンテカルロ（HMC）のための新しい条件数を導入する。この条件数は、効率的なサンプリングに必要なループフロッグステップの数を支配しており、プリコンディショニング手法の分析に用いられ、逆ワイシャールト行列に対する漸近的法則が導出され、バーンインのヒューリスティクスが提供される。

ABSTRACT

Hamiltonian Monte Carlo is a popular sampling technique for smooth target densities. The scale lengths of the target have long been known to influence integration error and sampling efficiency. However, quantitative measures intrinsic to the target have been lacking. In this paper, we restrict attention to the multivariate Gaussian and the leapfrog integrator, and obtain a condition number corresponding to sampling efficiency. This number, based on the spectral and Schatten norms, quantifies the number of leapfrog steps needed to efficiently sample. We demonstrate its utility by using this condition number to analyze HMC preconditioning techniques. We also find the condition number of large inverse Wishart matrices, from which we derive burn-in heuristics.

研究の動機と目的

• ターゲット分布のスケール構造に依存する、HMCにおけるサンプリングの難易度を定量化する、内在的な測度を構築すること。
• スペクトルノルムとシュターンノルムに基づく条件数を定義し、多変量正規分布における効率的サンプリングに必要なループフロッグステップ数を捉えること。
• この条件数を用いてHMCのプリコンディショニング手法を分析し、標準化、変分ベイズ推論、低ランク更新の比較を行うこと。
• 逆ワイシャールト行列に対する条件数の漸近的分布を導出し、実用的なバーンインヒューリスティクスを可能にすること。
• HMCの効率性を確率的行列理論と結びつけ、正規分布の外への一般化のための基盤を提供すること。

提案手法

• 積分誤差への寄与を重み付けした、共分散行列の最大固有値と最小固有値の組み合わせからなる条件数κを提案する。
• ループフロッグ積分器を用いてHMCのダイナミクスをモデル化し、ステップサイズと固有値スペクトルに依存する誤差バウンドを導出する。
• すべての固有値を考慮するためシュターンpノルムを適用し、累積的積分誤差をより正確に反映する。
• 逆ワイシャールトアンサンブルの条件数の漸近的表現を導出し、標本共分散行列と関連付ける。
• 条件数を用いてプリコンディショニング戦略（成分ごとの標準化、変分ベイズ推論に基づく変換など）を評価・比較する。
• 高次元における漸近的条件下で、κの極限分布を分析するために確率的行列理論を用いる。

実験結果

リサーチクエスチョン

• RQ1 多変量正規分布からのHMCによるサンプリングの難易度を定量化する条件数は、どのように定義できるか？
• RQ2 共分散行列の固有値スペクトルと、効率的サンプリングに必要なループフロッグステップ数の関係は何か？
• RQ3 提案された条件数は、HMCの効率性を予測する上で、従来のスペクトル条件数と比べてどのように異なるか？
• RQ4 標本共分散行列によるプリコンディショニングの下で、条件数の漸近的性質は何か？
• RQ5 条件数は、特に劣悪条件の正規分布ターゲットに対して、低ランク更新を含む効果的なプリコンディショニング戦略を導くことができるか？

主な発見

• スペクトルノルムとシュターンノルムに基づく提案された条件数κは、多変量正規分布におけるHMCの効率的サンプリングに必要なループフロッグステップ数を正確に測定する。
• 標準スペクトル条件数とは異なり、この条件数はすべての固有値を考慮しており、それらが累積的積分誤差に寄与するため、より包括的な評価が可能である。
• 逆ワイシャールト行列に対しては、条件数が確率的行列理論から導かれた既知の法則に漸近的に従い、バーンインのヒューリスティクスが可能になる。
• 成分ごとの標準化が、常に変分ベイズ推論に基づく変換よりも優れているわけではない。特定の固有値スペクトル領域では、両者を上回る性能を低ランク更新が示す。
• 少数の大きな固有値と多数の小さな固有値を持つスペクトルは、HMCの効率性に特に悪影響を及ぼし、そのような状況では低ランクプリコンディショナーが有効であることが示された。
• 条件数は、HMCの効率性と確率的行列理論の間の明確なつながりを提供し、正規分布の外への一般化のためのフレームワークを提供する。