[論文レビュー] Regression-based causal inference with factorial experiments: estimands, model specifications, and design-based properties

Anqi Zhao, Peng Ding|arXiv (Cornell University)|Jan 7, 2021

Statistical Methods and Bayesian Inference参考文献 24被引用数 5

ひとこと要約

本稿は、要因実験における回帰ベースの因果推論のための設計ベースの枠組みを確立し、要因ベースの回帰からのロバスト標準誤差が一般要因効果に関して漸近的に保守的な推論を提供することを示している。回帰係数の因果的解釈を明確にし、柔軟な重み付けを許容する一般化された要因効果を定義し、完全確率的割り当て下での飽和モデルと非飽和モデル間のバイアス・バリアンスのトレードオフを定量的に評価している。

ABSTRACT

Factorial designs are widely used due to their ability to accommodate multiple factors simultaneously. The factor-based regression with main effects and some interactions is the dominant strategy for downstream data analysis, delivering point estimators and standard errors via one single regression. Justification of these convenient estimators from the design-based perspective requires quantifying their sampling properties under the assignment mechanism conditioning on the potential outcomes. To this end, we derive the sampling properties of the factor-based regression estimators from both saturated and unsaturated models, and demonstrate the appropriateness of the robust standard errors for the Wald-type inference. We then quantify the bias-variance trade-off between the saturated and unsaturated models from the design-based perspective, and establish a novel design-based Gauss--Markov theorem that ensures the latter's gain in efficiency when the nuisance effects omitted indeed do not exist. As a byproduct of the process, we unify the definitions of factorial effects in various literatures and propose a location-shift strategy for their direct estimation from factor-based regressions. Our theory and simulation suggest using factor-based inference for general factorial effects, preferably with parsimonious specifications in accordance with the prior knowledge of zero nuisance effects.

研究の動機と目的

• 要因実験の要因ベースのモデルにおける回帰係数の因果的解釈を明確化すること。
• 外部妥当性の向上と、分野間の既存の定義を統一するために、任意の重み付けスキームを用いた一般要因効果を定義すること。
• 回帰分析における大標本Wald型推論のためのロバスト標準誤差の設計ベースの性質を確立すること。
• 設計ベースの観点から、飽和モデルと非飽和モデルの間のバイアス・バリアンスのトレードオフを定量すること。
• 潜在アウトカムに関するモデル仮定なしに最小二乗法とロバスト分散共分散を用いた推論の理論的基盤を提供すること。

提案手法

• 最小二乗法を用いて、回帰係数を一般要因効果の推定量にマッピングするための位置シフト戦略を提案する。
• 潜在アウトカムを条件として、完全確率的割り当て下での回帰推定量の設計ベースの標本分布を導出する。
• Eicker–Huber–Whiteのロバスト分散共分散行列を、真の標本分散共分散の漸近的保守的推定値として用いる。
• 任意の重み付けスキームを許容するため、一般要因効果を定義するための対比行列 $ G $ を導入する。
• 定常処置効果仮定下で、非飽和回帰のバイアスと分散を飽和モデルと比較して分析する。
• 条件1のもとで漸近理論を適用し、処置割合の収束性と潜在アウトカムの偏差の有界性を保証する。

実験結果

リサーチクエスチョン

• RQ1 要因実験の要因ベースのモデルにおける回帰係数の因果的解釈は何か？
• RQ2 この文脈において、最小二乗法からのロバスト標準誤差は、大標本Wald型推論にどのように正当化されるか？
• RQ3 設計ベースの観点から、飽和モデルと非飽和モデルの間のバイアス・バリアンスのトレードオフは何か？
• RQ4 一般要因効果は、因果推論、実験設計、社会科学の文献間の標準的定義を統一するために、どのように定義されるべきか？
• RQ5 非飽和回帰が飽和モデルよりも有限標本性能が優れるのはどのような条件下か？

主な発見

• 完全確率的割り当て下で、要因ベースの回帰からのロバスト標準誤差は、真の標本分散共分散に関して漸近的に保守的であるため、Wald型推論への応用が正当化される。
• 主効果と特定の交互作用を含む要因ベースのモデルにおける回帰係数は、位置シフトされた設計ベースの枠組み下で、一般要因効果を推定する。
• 定常処置効果仮定下では、非飽和回帰は飽和モデルよりも標本分散が小さいが、いとく要因効果が存在する場合には非消滅的バイアスを導入する。
• 飽和モデルと非飽和モデルの間のバイアス・バリアンスのトレードオフは、形式的に定量化されており、いとく要因効果が非ゼロである場合には飽和モデルがより安全である。
• 理論は潜在アウトカムに関するモデル仮定なしに成立し、設計機構と条件1に依存するだけであり、漸近的有効性が保証される。
• この枠組みは、最小限の修正で一般 $ Q_1 \times \cdots \times Q_K $ 要因設計へと拡張可能であり、回帰出力とモーメント推定量との対応関係を維持する。