[論文レビュー] Testing hypotheses via a mixture estimation model

Kaniav Kamary, Kerrie K. Mengersen+2 more|arXiv (Cornell University)|Dec 5, 2014

Statistical Methods and Bayesian Inference参考文献 79被引用数 53

ひとこと要約

この論文は、モデル比較を混合推定問題に再定式化する、新しいベイズ仮説検定フレームワークを提案している。ここで、混合モデルにおける各モデルの重みが、主な注目パラメータとなる。混合重みに参照ベータ(0.5, 0.5)の事前分布を用いることで、不適切な事前分布の使用を許容し、標本サイズが増加するにつれて一貫性が保たれ、ベイズ因子や事後確率に依存せずに、整合的な事後分布が得られる。

ABSTRACT

We consider a novel paradigm for Bayesian testing of hypotheses and Bayesian model comparison. Our alternative to the traditional construction of posterior probabilities that a given hypothesis is true or that the data originates from a specific model is to consider the models under comparison as components of a mixture model. We therefore replace the original testing problem with an estimation one that focus on the probability weight of a given model within a mixture model. We analyze the sensitivity on the resulting posterior distribution on the weights of various prior modeling on the weights. We stress that a major appeal in using this novel perspective is that generic improper priors are acceptable, while not putting convergence in jeopardy. Among other features, this allows for a resolution of the Lindley-Jeffreys paradox. When using a reference Beta B(a,a) prior on the mixture weights, we note that the sensitivity of the posterior estimations of the weights to the choice of a vanishes with the sample size increasing and avocate the default choice a=0.5, derived from Rousseau and Mengersen (2011). Another feature of this easily implemented alternative to the classical Bayesian solution is that the speeds of convergence of the posterior mean of the weight and of the corresponding posterior probability are quite similar.

研究の動機と目的

• 非情報的ベイズ仮説検定における長年の課題、特に事前分布への感受性と不適切な事前分布の禁止に対処すること。
• ベイズ因子や事後確率のような従来の手法の限界を克服すること。これらは事前分布のモデリングに感受しやすく、直感的な解釈が難しい。
• 古典的ベイズ検定の代替として、一貫性があり計算が効率的な手法を提供すること。仮説検定を混合成分の重み推定問題に再定式化することで実現する。
• 混合重みパラメータの事後分布が、モデル選択および意思決定の自然で解釈可能な根拠を提供することを示すこと。
• 特に大標本サイズ下での理論的および実証的整合性を確立し、重みのベータ(𝑎₀, 𝑎₀)事前分布におけるデフォルトの選択として𝑎₀ = 0.5を正当化すること。

提案手法

• ベイズ仮説検定を、重みパラメータ𝛼を用いた競合モデルの混合モデル推定問題に再定式化する。
• 混合重み𝛼を主な注目パラメータとし、ベイズ因子や事後モデル確率に代えて、その事後分布を推論の根拠とする。
• 𝛼に参照ベータ(𝑎₀, 𝑎₀)事前分布を用いることで、不適切な事前分布の使用を許容し、標本サイズが増加するにつれて𝑎₀の選択に頑健になる。
• メトロポリス・ハスティングス法などのMCMC手法を用いて事後分布の計算を実装し、𝛼およびモデル重みの完全な事後推論を可能にする。
• 後方分位数や𝛼の尾部領域を用いて意思決定（例：棄却、受容、判断不能）を補正し、ベイズp値に類似した手法を採用する。
• 共通のパrameterizationをモデル間で使用することで、共有パrameterに参照事前分布を適用でき、客観的な推論を強化する。

実験結果

リサーチクエスチョン

• RQ1 ベイズ仮説検定を混合推定問題に再定式化することで、解釈性と一貫性が向上するか？
• RQ2 混合重み𝛼に参照ベータ事前分布を用いることで、不適切な事前分布の使用を許容しながら一貫性が保たれるか？
• RQ3 標本サイズが増加するにつれて𝛼の事後分布はどのように振る舞い、正しいモデル下では0または1に集中するか？
• RQ4 𝛽(𝑎₀, 𝑎₀)事前分布における𝑎₀の選択に、𝛼の事後分布がどれほど感受するか？また、標本サイズが増加するにつれてその感受性は消えるか？
• RQ5 この手法は、ベイズ因子や事後モデル確率の代替として整合的であるか？

主な発見

• データが最初のモデルから生成された場合、混合重み𝛼の事後分布は1に集中し、2番目のモデルから生成された場合は0に集中する。これは一貫性を示している。
• 大標本サイズ下では、𝛽(𝑎₀, 𝑎₀)事前分布における𝑎₀の選択に、𝛼の事後分布の感受性が消失し、頑健性が保たれる。
• ロジスティック回帰モデルからデータをシミュレートした場合、𝛼の中央値は1に非常に近く（例：0.998）、プロビット回帰モデルから生成された場合は0に近く（例：0.003）なる。これは、𝑎₀が小さい場合でも成立する。
• 混合重みに適切な事前分布を用いることで、モデルパラメータに不適切な事前分布を用いることが可能となり、これは長年の客観的ベイズ検定の制限を克服する。
• 𝛼の事後平均は、事後確率と同程度の速度で収束するため、計算的および推論的性能において同等であると示唆される。
• 𝛽(𝑎₀, 𝑎₀)事前分布におけるデフォルトの選択として𝑎₀ = 0.5が推奨される。理論的一致性と実証的結果がこれを裏付けている。