[論文レビュー] A Generalization of the Savage-Dickey Density Ratio for Testing Equality and Order Constrained Hypotheses

Joris Mulder, Eric‐Jan Wagenmakers+1 more|arXiv (Cornell University)|Apr 21, 2020

Statistical Methods in Clinical Trials参考文献 23被引用数 6

ひとこと要約

本稿は、パラメータに等価制約と順序制約の両方を含む仮説を検定するため、Savage-Dickey密度比を一般化する。MCMCを用いることで周辺尤度の計算を必要とせず、ベイズ因子の効率的計算が可能になる。この手法により、制約付きモデルと非制約付きモデルの両方で事前分布を独立に指定でき、計算効率を保ちながら、多変量t検定および多項モデルにおいて、正確な解析的およびシミュレーションベースの検証が行われた。

ABSTRACT

The Savage-Dickey density ratio is a specific expression of the Bayes factor when testing a precise (equality constrained) hypothesis against an unrestricted alternative. The expression greatly simplifies the computation of the Bayes factor at the cost of assuming a specific form of the prior under the precise hypothesis as a function of the unrestricted prior. A generalization was proposed by Verdinelli and Wasserman (1995) such that the priors can be freely specified under both hypotheses while keeping the computational advantage. This paper presents an extension of this generalization when the hypothesis has equality as well as order constraints on the parameters of interest. The methodology is used for a constrained multivariate t test using the JZS Bayes factor and a constrained hypothesis test under the multinomial model.

研究の動機と目的

• ベイズ的仮説検定における等価制約を超えて、順序制約を含むSavage-Dickey密度比を一般化すること。
• 周辺尤度の計算を必要とせず、ベイズ因子推定の計算効率を維持すること。
• 制約付きモデルと非制約付きモデルの両方で、事前分布を独立に指定できることを可能にし、元々のSavage-Dickeyアプローチの主な制限を克服すること。
• 多変量およびカテゴリカルなモデルにおける複雑な制約付き仮説を検証する実用的なフレームワークを提供すること。
• 制約付き多変量t検定および多項モデルへの応用を通じて、解析的およびシミュレーションベースの結果を用いて手法を検証すること。

提案手法

• 制約付きモデルと非制約付きモデルにおける事前分布比の期待値とSavage-Dickey密度比を組み合わせた一般化されたベイズ因子の式を提案する。
• MCMC出力を用いて、制約付き帰無仮説の値における事後分布と事前分布の密度を推定し、周辺尤度の計算を必要とせず効率的な計算を実現する。
• JZSベイズ因子を用いて、共役事前分布とMCMCサンプリングを活用した制約付き多変量t検定にこの手法を適用する。
• 多項モデルへの適応においては、ディリクレ事前分布を用いて制約付きパラメータをモデル化し、モンテカルロサンプリングにより事後分布の密度を計算する。
• 多変量モデルにおける共分散行列の更新にメトロポリス・ハスティングス法を用い、正定値性を保ちつつパラメータ空間の効率的探索を実現する。
• ベイズ因子を、帰無仮説における事後密度と事前密度の比と、制約付きモデルにおける事前分布比の期待値の積として計算する。順序制約に応じて調整される。

実験結果

リサーチクエスチョン

• RQ1 ベイズ的仮説検定において、Savage-Dickey密度比は等価制約に加え、順序制約を扱えるように一般化可能か？
• RQ2 提案手法は、制約付きおよび非制約付きモデルにおける柔軟な事前分布指定を可能にしつつ、計算効率を維持するか？
• RQ3 解析的解と比較して、多変量および多項モデルにおける一般化手法のベイズ因子推定の正確さはどの程度か？
• RQ4 順序制約が課された際、事前分布の依存性が事後推論に与える影響は何か？
• RQ5 MCMCサンプリングを用いて、複雑なパラメータ制約を伴う現実のデータに、この手法は信頼性を持って適用可能か？

主な発見

• 一般化された手法は、周辺尤度の推定を必要とせず、MCMC出力のみを用いて等価制約および順序制約付き仮説のベイズ因子を効率的に計算できた。
• 制約付き多変量t検定におけるベイズ因子は Bcu ≈ 0.025 と推定され、制約付き仮説に強い反証の証拠があることを示した。
• 多項モデルでは、ベイズ因子が Bcu ≈ 0.0001 と推定され、制約付き仮説に極めて強い反証の証拠があることを示した。
• 制約付き帰無仮説における事後分布と事前分布の密度評価に依存することで、計算効率が維持された。MCMCサンプルから容易に得られる。
• 事前分布比の期待値はモンテカルロサンプリングにより推定され、大規模なシミュレーション（n = 1e7）により収束が確認された。
• 解析的解との比較を通じて手法の妥当性が検証され、異なるパラメータ設定においても良好な一致と頑健性を示した。