[論文レビュー] Bootstrap Markov chain Monte Carlo and optimal solutions for the Law of Categorical Judgment (Corrected)

Greg Kochanski, Burton S. Rosner|arXiv (Cornell University)|Aug 9, 2010

Blind Source Separation Techniques参考文献 23被引用数 3

ひとこと要約

本稿では、多変数正規分布などの対称的で凸的な事後分布に対して収束を加速する、アダプティブブートストラップリサンプリングを用いた、ブートストラップ付きのマルコフ連鎖モンテカルロ（MCMC）アルゴリズムを提案する。カテゴリカル判断の法則に適用したところ、完全信号検出理論およびその特殊ケースにおいて、実用的なサイズのシミュレートされたレーティングデータから正しいパラメータを正確に回復できた。

ABSTRACT

A novel procedure is described for accelerating the convergence of Markov chain Monte Carlo computations. The algorithm uses an adaptive bootstrap technique to generate candidate steps in the Markov Chain. It is efficient for symmetric, convex probability distributions, similar to multivariate Gaussians, and it can be used for Bayesian estimation or for obtaining maximum likelihood solutions with confidence limits. As a test case, the Law of Categorical Judgment (Corrected) was fitted with the algorithm to data sets from simulated rating scale experiments. The correct parameters were recovered from practical-sized data sets simulated for Full Signal Detection Theory and its special cases of standard Signal Detection Theory and Complementary Signal Detection Theory.

研究の動機と目的

• 対称的で凸的な尤度関数を有するベイズ推論におけるマルコフ連鎖モンテカルロ（MCMC）法の収束速度の向上を図ること。
• 大規模または高次元の事後分布推定に適した計算効率の良いアルゴリズムの開発。
• 現実的なシミュレートされたレーティングスケールデータを用いて、カテゴリカル判断の法則における手法の妥当性を検証すること。
• 完全信号検出理論およびその部分モデルにおいて、真のパラメータの正確な回復を示すこと。
• 提案されたMCMCフレームワークを用いて信頼区間と最尤推定値を提供すること。

提案手法

• マルコフ連鎖における候補ステップを生成するために、適応的ブートストラップ技術を用いることで、提案の効率性を向上させる。
• 現在の事後分布からのリサンプリングデータを用いて提案分布を決定し、ランダムウォーク行動を低減する。
• 多変数正規分布などの対称的で凸的な確率分布に本手法を適用する。
• ブートストラップ-MCMC手順をベイズ推定および最尤推論のパイプラインに統合する。
• リサンプリングされた事後分布推定に基づき、提案分散を動的に最適化することで、混合性と収束性を向上させる。
• 既知の真のパラメータを有するカテゴリカル判断の法則に基づく、シミュレートされたレーティングデータ上で性能を検証する。

実験結果

リサーチクエスチョン

• RQ1 ブートストラップ適応型MCMCは、対称的で凸的な事後分布において収束を著しく加速できるか？
• RQ2 実用的なサイズのシミュレートデータから、カテゴリカル判断の法則の真のパラメータをどの程度正確に回復できるか？
• RQ3 完全、標準、補完的信号検出理論を含む、さまざまな信号検出理論モデルにおいて、本手法は精度を維持できるか？
• RQ4 高次元設定において、信頼区間と最尤推定値を信頼性を持って生成できるか？
• RQ5 標準MCMCと比較して、ブートストラップ-MCMCアプローチは収束速度とパラメータ回復の両面で優れているか？

主な発見

• ブートストラップ-MCMCアルゴリズムは、対称的で凸的な事後分布において、標準MCMCよりも高速に収束した。
• 完全信号検出理論の下で、シミュレートされたレーティングスケールデータから、カテゴリカル判断の法則の真のパラメータを正確に回復できた。
• 標準的および補完的信号検出理論の両モデルにおいて、本手法はパラメータを正確に推定した。
• 同じ計算フレームワークを用いて、信頼性のある信頼区間と最尤推定値を生成した。
• 実用的なサイズのデータセットにおいて、本手法は頑健性と効率性を示し、実世界の心理的および心理物理学的データへの応用可能性を示唆した。
• 適応的ブートストラップリサンプリングの使用により、マルコフ連鎖におけるランダムウォーク行動が顕著に低減され、提案の効率性が向上した。