[論文レビュー] Gradient Importance Sampling

Ingmar Schuster|arXiv (Cornell University)|Jul 21, 2015

Markov Chains and Monte Carlo Methods参考文献 15被引用数 13

ひとこと要約

本稿では、勾配情報と動的更新された提案共分散を活用してサンプリング効率を向上させる、静的ベイズ推論向けの新しい適応型順次モンテカルロ手法である勾配重要度サンプリング（GRIS）を提案する。GRISは、多モーダル、重たい尾を持つ、および高次元のターゲットにおいて、平均二乗誤差と証拠推定の安定性の面で、従来のMCMCおよびIS手法を上回る性能を発揮する。

ABSTRACT

Adaptive Monte Carlo schemes developed over the last years usually seek to ensure ergodicity of the sampling process in line with MCMC tradition. This poses constraints on what is possible in terms of adaptation. In the general case ergodicity can only be guaranteed if adaptation is diminished at a certain rate. Importance Sampling approaches offer a way to circumvent this limitation and design sampling algorithms that keep adapting. Here I present a gradient informed variant of SMC (and its special case Population Monte Carlo) for static problems.

研究の動機と目的

• 定常性を保証するための減衰適応を要する適応型MCMC手法の限界を克服すること。
• MCMCにおける適応速度と定常性のトレードオフを、持続的適応が可能な重要度サンプリングの柔軟性を活用して克服すること。
• 多モーダルおよび重たい尾を持つターゲットを含む複雑な事後分布においても高いサンプリング効率を維持できる勾配情報に基づくSMCアルゴリズムを開発すること。
• 既存の適応型ISおよびMCMC手法と比較して、事後平均推定および周辺尤度（証拠）推定の精度を向上させること。
• HMC や T-MALA よりも複雑なアルゴリズムに比べ、単純な勾配ベースの提案分布適応戦略が、特に高次元および多モーダルな設定において優れた性能を発揮することを示すこと。

提案手法

• 事後分布の局所的幾何構造に基づく勾配情報を利用した提案分布を用いた、静的ターゲット向けの順次モンテカルロ（SMC）フレームワークを提案する。
• 蓄積された事後サンプルの経験的共分散から得られる共分散行列を用いて、重み付き粒子位置を中心にした多変量正規分布の提案密度を構築する。
• 対数事後分布のスコアを用いた勾配情報により提案のずれを制御するが、メトロポリス・ハスティングス補正を用いない。
• 各反復で重要度リサンプリングを適用し、重要度重みに基づいて粒子を再重み付けおよび再サンプリングすることで、多様性を確保し、劣化を低減する。
• 直前の反復からの重み付きサンプルを用いて、提案分布の平均および共分散を繰り返し更新することで、持続的適応を実現する。
• リサンプリング前の段階での重要度重みの正規化和を用いて周辺尤度（証拠）を推定し、安定的かつ一貫性のある証拠推定を保証する。

実験結果

リサーチクエスチョン

• RQ1 SMCにおける勾配情報に基づく提案分布適応は、事後平均推定における平均二乗誤差の面で、従来のMCMCおよびIS手法を上回るか？
• RQ2 定常性制約のない持続的適応を許容するISベースのSMCにおいて、減衰適応を要するMCMCに比べて、収束が速く性能が優れているか？
• RQ3 標準的な勾配ベースのサンプリング手法がしばしば失敗する多モーダルおよび重たい尾を持つターゲットにおいて、GRISはどのように性能を発揮するか？
• RQ4 平均と共分散の更新のみを用いるシンプルな提案分布適応戦略が、T-MALA ようなより複雑な適応型MCMCアルゴリズムを上回る性能を発揮できるか？
• RQ5 ベースライン手法と比較して、GRISは周辺尤度（証拠）推定の安定性と正確性をどの程度向上させるか？

主な発見

• GRISは、2次元のバナナ型分布および10次元のt混合分布を含むすべてのターゲットで、最も低い平均二乗誤差（MSE）を達成し、HMC、T-MALA、および標準的適応型ISを上回った。
• 10次元t混合ターゲットにおいて、GRISは他の手法と比較して、次元ごとの平均二乗誤差が著しく低く、最大の対数二乗誤差も低かった。
• ドイツ信用ロジスティック回帰モデルでは、GRISが最も正確な平均推定を提供し、平均二乗誤差が最小であった。他の手法は性能がスケール外に逸脱していた。
• GRISの証拠推定は素早く安定化し、MSEが低かった。対数証拠推定値は、t混合分布で-1000、ロジスティック回帰で-504であり、信頼性の高い周辺尤度推定を示した。
• T-MALA よりも少ない適応パラメータを用いても、GRISはその性能を同等または上回った。これは、勾配情報に基づく共分散適応が極めて有効であることを示唆している。
• 多モーダルな設定においても、HMCがモード遷移に起因する高い分散を示す一方、GRISは安定的かつ正確な推定を維持した。