[論文レビュー] A theoretical treatment of conditional independence testing under Model-X

Eugene Katsevich, Aaditya Ramdas|arXiv (Cornell University)|May 12, 2020

Statistical Methods and Inference参考文献 35被引用数 10

ひとこと要約

この論文は、Model-X (MX) フレームワークにおける条件付き独立性の検定の理論的基盤を確立し、Neyman-Pearsonの補題を用いて最適な検定統計量を導出し、最小限のモーメント仮定のもとで一様漸近的第1種誤りの制御を示している。MXを古典的検定および因果推論に接続するため、局所漸近正規性のもとでパワーの表現を導出し、MX設定における推定を可能にする。

ABSTRACT

For testing conditional independence (CI) of a response $Y$ and a predictor $X$ given covariates $Z$, the recently introduced model-X (MX) framework has been the subject of active methodological research, especially in the context of MX knockoffs and their successful application to genome-wide association studies. In this paper, we build a theoretical foundation for the MX CI problem, yielding quantitative explanations for empirically observed phenomena and novel insights to guide the design of MX methodology. We focus our analysis on the conditional randomization test (CRT), whose validity conditional on $Y,Z$ allows us to view it as a test of a point null hypothesis involving the conditional distribution of $X$. We use the Neyman-Pearson lemma to derive the most powerful CRT statistic against a point alternative as well as an analogous result for MX knockoffs. We define CRT-style analogs of $t$- and $F$-tests with explicit critical values, and show that they have uniform asymptotic Type-I error control under the assumption that only the first two moments of $X$ given $Z$ are known, a significant relaxation of MX. We derive expressions for the power of these tests against local semiparametric alternatives using Le Cam's local asymptotic normality theory, explicitly capturing the prediction error of the underlying learning algorithm. Finally, we pave the way for estimation in the MX setting by drawing connections to semiparametric statistics and causal inference. Thus, this work forms explicit bridges from MX to both classical statistics (testing) and modern causal inference (estimation).

研究の動機と目的

• Model-X (MX) フレームワークにおける条件付き独立性検定の厳密な理論的枠組みを確立すること。
• MX手法における経験的観察された挙動を形式的統計的分析によって説明すること。
• MXの手法を、古典的仮説検定および半パラメトリック推定に接続することで拡張すること。
• Xの分布に関する最小限のモデリング仮定のもとで、条件付き独立性の最適な検定統計量を導出すること。
• 半パラメトリック統計および因果推論に接続することで、MX設定における推定を可能にすること。

提案手法

• 点対立仮説のもとで、最も強力な条件付きランダマイゼーション検定（CRT）統計量を、Neyman-Pearsonの補題を用いて導出する。
• X|Z の一階および二階モーメントしか既知でないという仮定のもとで、t検定およびF検定のCRT風アナログを構築し、明示的な臨界値を提供する。
• Le Cam の局所漸近正規性（LAN）理論を適用し、局所半パラメトリック代替仮説に対する検定のパワーを導出する。
• 明示的なパワー表現を用いて、学習アルゴリズムによる予測誤差が検定パワーに与える影響を定量化する。
• 特に推定および因果推論の文脈において、MXと半パラメトリック統計の間の理論的接続を確立する。
• CRTフレームワークをノックオフ構成の設定に拡張し、最適なMXノックオフ統計量を導出する。

実験結果

リサーチクエスチョン

• RQ1 点対立仮説のもとで、MXフレームワークにおける条件付き独立性検定の最も強力な統計量は何か？
• RQ2 X|Z の一階および二階モーメントしか知らないという最小限の仮定のもとで、t検定およびF検定のアナログをどのように構築できるか？
• RQ3 X|Z の一階および二階モーメントしか知らない場合、MX検定の漸近的第1種誤りの制御行動はどのようになるか？
• RQ4 XをZの関数として条件付き分布を推定するための推定器の予測誤差は、MX検定のパワーにどのように影響するか？
• RQ5 MXの手法と古典的半パラメトリック統計および因果推論フレームワークとの間にはどのような接続があるか？

主な発見

• 点対立仮説のもとで、最も強力なCRT統計量はNeyman-Pearsonの補題を用いて導出され、MX検定の理論的ベンチマークを提供する。
• CRT風のt検定およびF検定のアナログが、X|Z の一階および二階モーメントの仮定のみで明示的な臨界値とともに構築され、一様漸近的第1種誤りの制御が保証される。
• Le Cam のLAN理論を用いて、局所半パラメトリック代替仮説に対するMX検定のパワーが導出され、条件付き平均推定器の予測誤差が明示的に組み込まれている。
• 導出されたパワー表現から、X|Z の条件付き平均モデルにおける予測誤差が増加するほど、検定の性能が劣化することが示された。
• 本研究は、MXと半パラメトリック統計の間の理論的接続を確立し、今後のMXフレームワークにおける推定に関する研究を可能にする。
• 本フレームワークは、保証された統計的性質を有するMXノックオフおよびその他のMXベースの推論手順の設計に、原理的根拠を提供する。