[論文レビュー] Iterative Markov Chain Monte Carlo Computation of Reference Priors and Minimax Risk

John Lafferty, Larry Wasserman|arXiv (Cornell University)|Jan 10, 2013

Markov Chains and Monte Carlo Methods参考文献 10被引用数 11

ひとこと要約

本稿では、情報理論におけるBlahut-Arimotoアルゴリズムを応用し、一般のパrametric族における参考事前分布およびミニマックスリスクを計算するための反復的マルコフ連鎖モンテカルロ（MCMC）アルゴリズムを提案する。各反復で不変積分をMCMCサンプリングで近似し、共通の乱雑性を用いて確率的誤差を制御することで、反復回数の二乗に比例してサンプルサイズが増加するよう保証され、解析的解が得られない高次元設定においても実用的な計算が可能になる。

ABSTRACT

We present an iterative Markov chainMonte Carlo algorithm for computingreference priors and minimax risk forgeneral parametric families. Ourapproach uses MCMC techniques based onthe Blahut-Arimoto algorithm forcomputing channel capacity ininformation theory. We give astatistical analysis of the algorithm,bounding the number of samples requiredfor the stochastic algorithm to closelyapproximate the deterministic algorithmin each iteration. Simulations arepresented for several examples fromexponential families. Although we focuson applications to reference priors andminimax risk, the methods and analysiswe develop are applicable to a muchbroader class of optimization problemsand iterative algorithms.

研究の動機と目的

• 解析的解が得られないパrametric族における参考事前分布およびミニマックスリスクの実用的計算手法の開発。
• 元々離散的チャネル容量の計算を目的として開発されたBlahut-Arimotoアルゴリズムを、連続的かつ高次元のパrameter空間へと拡張すること。
• 反復的最適化における不変積分の処理にMCMCサンプリングを用いることで、その課題に取り組むこと。
• 収束を保証するための反復毎に必要なMCMCサンプル数に関する理論的境界の確立。
• シミュレーションを通じて指数族モデルにおける本手法の有効性の検証。

提案手法

• 必要な期待値の近似にMCMCサンプリングを用いることで、連続的パrameter空間へのBlahut-Arimotoアルゴリズムの適応。
• 各反復で、後方分布からのサンプルを生成するために、一様提案を用いたメトロポリス・ハスティングス法を採用。
• 反復間で共通の乱雑性を用いることで、反復的プロセスにおける確率的誤差の蓄積を防ぐ。
• パramータと十分統計量との間の相互情報量を最大化する再帰的更新ルールを適用。
• サイズBのブロックサンプリングを用いて独立サンプルを近似し、N/Bを有効サンプルサイズとして扱う。
• MCMC近似によって生じる誤差をバインドすることで、混合条件の下での収束を確立。

実験結果

リサーチクエスチョン

• RQ1 MCMCサンプリングを用いることで、Blahut-Arimotoアルゴリズムを連続的かつ高次元のパrameter空間へ拡張可能か？
• RQ2 反復毎にどの程度のMCMCサンプル数が必要か、確率的アルゴリズムが決定的解をよく近似するかを保証するか？
• RQ3 反復間で共通の乱雑性を用いることで、反復的MCMCアルゴリズムにおける確率的誤差の蓄積が防げるか？
• RQ4 指数族における有限標本の参考事前分布の挙動、特にパrameter空間の境界付近での挙動はいかなるものか？
• RQ5 本手法は、参考事前分布およびミニマックスリスクを超えた反復的最適化問題へ一般化可能か？

主な発見

• 反復毎のサンプル数が反復回数の二乗に比例して増加する場合、反復的MCMCアルゴリズムは参考事前分布およびミニマックスリスクに収束する。
• ベルヌーイ、ポアソン、負の二項、正規分布モデルにおけるシミュレーションでは、パrameter空間がコンパクトな区間へ制限された場合、参考事前分布が境界に集中することが示された。
• 分散が既知の正規モデルでは、極限分布がガウス分布となることが確認され、理論的期待と整合的であった。
• 解析的解が不明な指数族においても、本手法は有限標本の参考事前分布を効果的に推定できた。特に指数族を超えたk=1のケースに対しても同様に有効であった。
• 反復間で共通の乱雑性を用いることで、確率的誤差の伝播が効果的に制御され、グローバル収束が達成された。
• 本手法は、対数線形モデルの一般化反復スケーリングなど、他の交互最小化アルゴリズムへも一般化可能である。