[論文レビュー] Annealed Importance Sampling

Radford M. Neal|ArXiv.org|Mar 8, 1998

Bayesian Methods and Mixture Models被引用数 118

ひとこと要約

この論文は、中間分布の系列を用いてマルコフ連鎖モンテカルロ法と重要度サンプリングを組み合わせる、アニールド・インポートランス・サンプリング（AIS）を導入する。この手法により、高次元かつ多峰性を持つ分布における期待値および正規化定数の推定が、収束保証とともに高精度で可能となり、標準的なMCMCに比べて収束診断への依存度が低減される。

ABSTRACT

Simulated annealing - moving from a tractable distribution to a distribution of interest via a sequence of intermediate distributions - has traditionally been used as an inexact method of handling isolated modes in Markov chain samplers. Here, it is shown how one can use the Markov chain transitions for such an annealing sequence to define an importance sampler. The Markov chain aspect allows this method to perform acceptably even for high-dimensional problems, where finding good importance sampling distributions would otherwise be very difficult, while the use of importance weights ensures that the estimates found converge to the correct values as the number of annealing runs increases. This annealed importance sampling procedure resembles the second half of the previously-studied tempered transitions, and can be seen as a generalization of a recently-proposed variant of sequential importance sampling. It is also related to thermodynamic integration methods for estimating ratios of normalizing constants. Annealed importance sampling is most attractive when isolated modes are present, or when estimates of normalizing constants are required, but it may also be more generally useful, since its independent sampling allows one to bypass some of the problems of assessing convergence and autocorrelation in Markov chain samplers.

研究の動機と目的

• 標準的なMCMC手法が混合が遅く収束が悪いという問題に直面する高次元で多峰性を持つ分布からのサンプリングを解決すること。
• ベイズ推論や統計物理学において極めて重要な正規化定数の推定を、信頼性の高い方法で行うこと。
• MCMCで一般的に用いられる収束評価や自己相関診断に依存を減らすために、アニールド分布の系列からの独立サンプルを用いること。
• 孤立したモードが存在する問題において、従来の重要度サンプリングが提案分布の質が悪いため失敗する状況でも、高精度な推定を可能にすること。

提案手法

• 初期分布から目的分布へと至る中間分布の系列を、温度に類似したパラメータを用いて徐々にアニールする。
• 各サンプルについて、直前のアニール段階の最終分布から次の分布へとマルコフ連鎖を走らせ、中間分布を通過するパスを生成する。
• 重要度重みは、アニールパスに沿った非正規化密度の比の積として計算され、目的分布における期待値の重み付き推定が可能になる。
• 重要度サンプリング推定器は正規化された重みを用い、独立なアニール実行回数を増やすことで収束が保証される。
• バーンインや収束診断の必要がないのは、最終アニール段階からの独立サンプルに依存しているためである。
• 順次的重要度サンプリングを一般化しており、熱力学的統合とも関連するが、正規化定数の比の事前推定を必要としない。

実験結果

リサーチクエスチョン

• RQ1 高次元で多峰性を持つ分布において、マルコフ連鎖の系列を用いて優れた重要度サンプリング分布を定義できるか？
• RQ2 直接計算が不可能な複雑な分布において、正規化定数を高精度に推定する方法は何か？
• RQ3 MCMCと重要度サンプリングを組み合わせることで、MCMCにおける収束診断や自己相関評価への依存を軽減できるか？
• RQ4 アニールスケジュールおよび中間分布の選定が、重要度重みの分散に与える影響は何か？

主な発見

• アニールド・インポートランス・サンプリングは、独立サンプル数を増やすことで、目的分布における期待値の推定が一貫的に行えることが保証される。
• 正規化定数の推定が高精度に行えるため、ベイズモデル比較や統計物理学の文脈で特に有用である。
• 標準的なMCMCとは異なり、バーンインや収束診断を必要としない。これは、各実行間でサンプルが独立しているためである。
• 正規化された重要度重みの分散が主な誤差源であり、重たい尾を持つ重み分布は、サンプルサイズが大きくても信頼性の低い推定を引き起こすことがある。
• 特に多峰性が顕著な場合に顕著な効果を示し、アニールパスのおかげで従来のMCMCよりも遠く離れたモードを効果的に探索できる。
• 次元数に比例した計算コストが加わるが、高次元MCMCにおける混合の遅さという本質的コストに加え、マルコフ連鎖モンテカルロ法よりも多峰性のある状況でより頑健である。