[論文レビュー] Overlap in Observational Studies with High-Dimensional Covariates

Alexander D’Amour, Peng Ding+3 more|arXiv (Cornell University)|Nov 7, 2017

Advanced Causal Inference Techniques参考文献 38被引用数 27

ひとこと要約

本稿は、因果推論における次元の呪いを形式化し、傾向スコアが 0 および 1 から離れている厳密なオーバーラップを要求する条件が、高次元設定における共変量の不均衡に強いグローバル制約を課することを示している。情報理論を用いて、次元が増加するにつれてよりきつい上限が得られる平均不均衡の明示的境界を導出しており、これは、厳密なオーバーラップ下では共変量の平均がほぼバランスしているか、あるいは非常に相関している必要があることを示唆している。

ABSTRACT

Estimating causal effects under exogeneity hinges on two key assumptions: unconfoundedness and overlap. Researchers often argue that unconfoundedness is more plausible when more covariates are included in the analysis. Less discussed is the fact that covariate overlap is more difficult to satisfy in this setting. In this paper, we explore the implications of overlap in observational studies with high-dimensional covariates and formalize curse-of-dimensionality argument, suggesting that these assumptions are stronger than investigators likely realize. Our key innovation is to explore how strict overlap restricts global discrepancies between the covariate distributions in the treated and control populations. Exploiting results from information theory, we derive explicit bounds on the average imbalance in covariate means under strict overlap and show that these bounds become more restrictive as the dimension grows large. We discuss how these implications interact with assumptions and procedures commonly deployed in observational causal inference, including sparsity and trimming.

研究の動機と目的

• 高次元の観察的研究における無偏性とオーバーラップの間の緊張を形式化すること。
• 厳密なオーバーラップが、処置群と対照群の間の共変量分布の差異にグローバル制限を課することを示すこと。
• 共変量の次元がオーバーラップの実現可能性に与える影響を情報理論的境界を通じて定量化すること。
• トリミングやスパarsity仮定といった一般的な手法が、厳密なオーバーラップによって課される制約とどのように作用するかを評価すること。
• 高次元共変量下での機械学習を用いた因果推定の現代的手法におけるオーバーラップの役割を明確にすること。

提案手法

• 処置群と対照群の共変量分布間の尤度比に上限を課えることで、厳密なオーバーラップを再定式化すること。
• Rukhin (1997) の結果を応用し、処置群と対照群の分布間の χα-発散に対する明示的上限を導出すること。
• ホルダーの不等式を用いて、χα-発散の上限を共変量平均の不均衡の上限に変換すること。
• 両処置状態下での共分散行列の作用素ノルムを分析し、依存構造が不均衡境界に与える影響を評価すること。
• イambique、ステーショナリ、低ランクの3つの共変量依存構造を検討し、相関が境界のタイトさに与える影響を評価すること。
• 次元 p が増加するにつれて、作用素ノルムが p とともに増加しない限り、不均衡の境界は O(1/√p) またはそれ以下にスケーリングされることを導出すること。

実験結果

リサーチクエスチョン

• RQ1 共変量の次元が増加するにつれて、観察的研究における厳密なオーバーラップの実現可能性にどのように影響するか？
• RQ2 厳密なオーバーラップが、処置群と対照群の共変量分布の差異に課すグローバル制約は何か？
• RQ3 高次元共変量間の依存構造が、不均衡境界のタイトさにどの程度影響を及ぼすか？
• RQ4 トリミングやスパarsity仮定といった既存の実務的手法が、厳密なオーバーラップによって課される制約とどのように作用するか？
• RQ5 これらのオーバーラップ制約が、高次元における機械学習ベースの因果推定手法に与える影響は何か？

主な発見

• 厳密なオーバーラップは、処置群と対照群間の平均絶対不均衡が共変量の数が増加するにつれて縮小しなければならないことを示唆する。
• 独立または弱い依存性を持つ共変量では、不均衡の上限は O(1/√p) にスケーリングされ、次元が高くなるほどよりタイトになる。
• 共分散行列の作用素ノルムが次元とともに増加する場合、不均衡の境界はゼロに収束しない可能性がある。ノルムがゆっくり増加する場合、不均衡はゼロに収束する。
• 低ランクの依存構造（例：ランク s_p = o(p)）では、作用素ノルムは O(p/s_p) にスケーリングされ、s_p が p とともに増加しない限り、不均衡の境界はタイトなまま保たれない。
• χα-発散を用いて導出された境界は、L2ノルムに基づく境界よりもタイトであり、特にオーバーラップの上限 η が小さい場合に顕著である。
• 独立な場合で分散が有界な場合、作用素ノルムは O(1) であり、p が増加するにつれて不均衡の境界はますます制限的になる。