[論文レビュー] Principal stratification in the Twilight Zone: Weakly separated components in finite mixture models

Avi Feller, Evan Greif+2 more|arXiv (Cornell University)|Feb 21, 2016

Bayesian Methods and Mixture Models参考文献 77被引用数 14

ひとこと要約

本稿は、主な構造的設定における弱く分離された2成分ガウス有限混合モデルにおける最尤推定（MLE）の失敗を調査する。特に、MLEは弱い分離下で「パイルアップ」を示し、相異なる平均を等しく推定してしまう。この問題は因果推論の妥当性を損なう。本稿では、モーメントに基づく推定法と、仮説検定の逆転による信頼集合の構成法を提案し、MLEの不安定性を解明する。

ABSTRACT

Principal stratification is a widely used framework for addressing post-randomization complications in a principled way. After using principal stratification to define causal effects of interest, researchers are increasingly turning to finite mixture models to estimate these quantities. Unfortunately, standard estimators of the mixture parameters, like the MLE, are known to exhibit pathological behavior. We study this behavior in a simple but fundamental example: a two-component Gaussian mixture model in which only the component means are unknown. Even though the MLE is asymptotically efficient, we show through extensive simulations that the MLE has undesirable properties in practice. In particular, when mixture components are only weakly separated, we observe pile up, in which the MLE estimates the component means to be equal, even though they are not. We first show that parametric convergence can break down in certain situations. We then derive a simple moment estimator that displays key features of the MLE and use this estimator to approximate the finite sample behavior of the MLE. Finally, we propose a method to generate valid confidence sets via inverting a sequence of tests, and explore the case in which the component variances are unknown. Throughout, we illustrate the main ideas through an application of principal stratification to the evaluation of JOBS II, a job training program.

研究の動機と目的

• 主な構造的設定における弱く分離された混合成分に対して、有限標本における標準的MLE推定法がなぜ失敗するかを理解すること。
• MLEが不正な挙動を示す根本的原因、特に真の不等価性にもかかわらず「パイルアップ」として等しい平均を推定する現象を特定すること。
• MLEの有限標本挙動を再現するが、不安定性を示さない、安定したモーメントに基づく代替推定法を開発すること。
• 尤度比検定の逐次的逆転により、特に成分の分散が未知の場合に有効な信頼集合の構成法を提案すること。
• JOBS II職業訓練プログラムの評価に応用することで、これらの問題の影響を実証すること。

提案手法

• MLEの主要な有限標本的性質を再現するシンプルなモーメント推定法を導出することで、MLE挙動の解析的近似を可能にする。
• モーメント推定法を用いて、弱い成分分離下でのパラメトリック収束の崩壊を診断および特徴づける。
• 尤度比検定の逐次的逆転により信頼集合を構成する手法を提案し、妥当な頻度的カバレッジを保証する。
• 成分の分散が未知である場合の拡張を図り、推論の有効性を維持する。
• 実世界の主な構造的問題に適用：JOBS II職業訓練プログラムの評価。
• 異なる成分分離度の下でMLEとモーメント推定法の性能を比較するため、広範なシミュレーションを実施する。

実験結果

リサーチクエスチョン

• RQ1 2成分ガウス混合モデルのMLEが、成分が弱く分離されている場合に「パイルアップ」を示すのはなぜか？（相異なる平均が等しく推定される）
• RQ2 弱く分離された混合モデルにおいて、MLEの有限標本挙動を再現するモーメントベースの推定法を構築できるか？
• RQ3 尤度比検定の逐次的逆転により、分散が未知であっても成分の平均に対する有効な信頼集合が得られるか？
• RQ4 パラメトリック収束の崩壊が、主な構造的枠組みにおける因果効果推定に与える影響は何か？
• RQ5 MLEの不安定性が、JOBS II職業訓練プログラムの評価など実世界の応用に与える実務的影響は何か？

主な発見

• MLEは、混合成分が弱く分離されている有限標本において「パイルアップ」を示し、漸近的効率性にもかかわらず、相異なる平均を常に等しく推定する。
• 提案されたモーメント推定法は、MLEの有限標本挙動（パイルアップの傾向を含む）を正確に再現でき、MLE病理の解析的考察を可能にする。
• 弱く分離された状況下ではパラメトリック収束が崩壊し、MLEが漸近的に有効であっても、標準的な漸近的推論が無効になる。
• 尤度比検定の逐次的逆転により、分散が未知であっても成分の平均に対する有効な信頼集合が得られる。
• JOBS II応用において、MLEの不安定性が誤った因果効果推定を引き起こし、頑健な推論手法の必要性を浮き彫りにする。
• 結果として、主な構造的枠組みにおける標準的MLEベースの推論は、弱い分離がある場合には実際には信頼できないことが示された。