[論文レビュー] Measuring and Controlling Bias for Some Bayesian Inferences and the Relation to Frequentist Criteria

Michael Evans, Yang Guo|arXiv (Cornell University)|Mar 5, 2019

Bayesian Modeling and Causal Inference参考文献 8被引用数 5

ひとこと要約

この論文は、証拠の原則を用いてベイズ推論におけるバイアスを測定・制御する原理的なアプローチを導入し、相対的信頼比を用いて『反対のバイアス』と『支持のバイアス』を定義する。ベイズ的証拠と頻度主義的性質の間の明確なリンクを確立し、事前分布の選択ではなくデータ収集によるバイアス制御が信頼性のある推論を保証することを示し、ベイズ的および頻度主義的枠組みの間の緊張を解消する。

ABSTRACT

A common concern with Bayesian methodology in scientific contexts is that inferences can be heavily influenced by subjective biases. As presented here, there are two types of bias for some quantity of interest: bias against and bias in favor. Based upon the principle of evidence, it is shown how to measure and control these biases for both hypothesis assessment and estimation problems. Optimality results are established for the principle of evidence as the basis of the approach to these problems. A close relationship is established between measuring bias in Bayesian inferences and frequentist properties that hold for any proper prior. This leads to a possible resolution to an apparent conflict between these approaches to statistical reasoning. Frequentism is seen as establishing a figure of merit for a statistical study, while Bayesianism plays the key role in determining inferences based upon statistical evidence.

研究の動機と目的

• ベイズ的推論が主観的な事前分布に不適切に影響を受けるという一般的な批判に対処するため、バイアスを形式的に測定・制御すること。
• 証拠の原則を仮説検定を超えて推定および予測問題へと拡張すること。
• 頻度主義が研究設計において極めて重要な役割を果たすことを示す。具体的には、低バイアスを保証することで、ベイズ的推論は観察された証拠に依存する。
• ベイズ的および頻度主義的アプローチの間の表面的な矛盾を解消し、統計的推論における両者の補完的役割を示すこと。

提案手法

• 証拠の原則を用いる：パラメータ値の後確率が事前確率を上回る場合に、その値に対する証拠が存在する。
• 相対的信頼比（後確率対事前確率のオッズ）を用いて『反対のバイアス』と『支持のバイアス』を定義し、証拠の強さを定量化する。
• さまざまなデータ生成メカニズム下でのバイアス水準を推定するために、条件付き事前予測分布からのモンテカルロサンプリングを用いる。
• 位置モデルおよび回帰モデルにこの手法を適用し、十分統計量および予測分布のシミュレーションを用いてバイアスを計算する。
• 共役事前分布下での将来観測値の予測分布に対して閉形式の式を導出し、効率的なバイアス計算を可能にする。
• このアプローチの最適性を確立し、任意の適切な事前分布下で望ましい頻度主義的性質を満たすことを示す。

実験結果

リサーチクエスチョン

• RQ1 主観的な事前分布がある場合に、ベイズ的推論におけるバイアスを形式的に測定・制御する方法は何か？
• RQ2 相対的信頼比によるベイズ的証拠と、被覆率や誤差率といった頻度主義的性質との関係は何か？
• RQ3 証拠の原則を仮説検定を超えて推定および予測問題に意味的に拡張できるか？
• RQ4 ジェフリー＝リンデイのパラドックスはなぜ生じるのか？また、バイアス測定はその解消にどのように寄与するか？
• RQ5 ベイズ的推論の証拠的基盤を損なわずに、頻度主義的基準を用いてベイズ的推論を検証することは可能か？

主な発見

• 反対のバイアスと支持のバイアスが相対的信頼比を用いて形式的に定義・測定され、証拠の質の定量的評価が可能になる。
• ジェフリー＝リンデイのパラドックスは、平滑な事前分布を用いた場合の高い支持のバイアスに起因するものであり、ベイズ的推論の欠陥ではない。
• 有意水準がサンプルサイズの増加に伴って減少するか、または事前分布が広がる場合を除き、良好にキャリブレーションされたp値は証拠の原則を満たさない。
• 被覆率や誤差率といった頻度主義的性質は、任意の適切な事前分布に対して成立し、頻度主義的設計とベイズ的推論との強い結びつきを確立する。
• バイアス制御は、事前分布の修正ではなく、データ収集によって達成され、主観的な事前分布の獲得の整合性が保たれる。
• この枠組みはベイズ的および頻度主義的推論を統合する：頻度主義は研究設計およびバイアス制御を支配するが、ベイズ的推論は観察されたデータに基づく証拠に依存する。