[論文レビュー] Debiased Inference of Average Partial Effects in Single-Index Models

David A. Hirshberg, Stefan Wager|arXiv (Cornell University)|Nov 6, 2018

Statistical Methods and Inference参考文献 16被引用数 9

ひとこと要約

本稿は、β-min条件を要しない高次元単一インデックスモデルにおける平均部分効果のデバイアス除去推定法を提案する。この手法は、√n-一致性と漸近正規性を達成し、特徴量の相関構造を明示的にモデル化するとともに、Javanmard & Montanari (2014) のインスピレーションを受けるデバイアス除去フレームワークを活用することで、より弱いスパarsity仮定の下でも安定した推定が可能となる。交絡要因が存在する状況では、Wooldridge と Zhu (2018) より優れた性能を示す。

ABSTRACT

We propose a method for average partial effect estimation in high-dimensional single-index models that is root-n-consistent and asymptotically unbiased given sparsity assumptions on the underlying regression model. This note was prepared as a comment on Wooldridge and Zhu [2018], forthcoming in the Journal of Business and Economic Statistics.

研究の動機と目的

• 制限的なβ-min条件に依存する既存の高次元推定手法の限界を是正すること。交絡要因が存在する場合、β-min条件に依存する手法はバイアスが生じる可能性がある。
• Wooldridge と Zhu (2018) が要請するよりも弱い仮定の下で、単一インデックスモデルにおける平均部分効果（APEs）の推定が√n-一貫性および漸近正規性を満たす方法の開発。
• 推定プロセス中に共変数間の相関構造を明示的に取り入れることで、高次元設定における交絡要因へのロバスト性を向上させること。
• Wooldridge と Zhu (2018) の手法に依存するソフトなβ-min条件を回避する、新しいデバイアス除去機構を用いた理論的裏付けのある代替手法の提供。
• 提案手法の推定量が非線形で高次元なモデルにおいて、平均部分効果の推定に関して漸近正規性と有効な推論が成立する条件の特定。

提案手法

• 推定量の形式として、$\hat{\tau}_j = \frac{1}{n}\sum_{i=1}^n \left( \hat{\theta}_j \psi(X_i^T\hat{\theta}) + \hat{\gamma}_i (Y_i - \Psi(X_i^T\hat{\theta})) \right)$ を提案。ここで $\hat{\theta}$ は高次元単一インデックスモデルの推定値である。
• Javanmard と Montanari (2014) のデバイアス除去フレームワークに従い、正則化によって生じるバイアスを補正するため、残差に基づく補正項 $\hat{\gamma}_i$ を用いる。
• 推定とデバイアス除去のステップの依存性を軽減するため、クロスフィットを採用することで、有限サンプル性能と理論的妥当性を向上。
• 推定方程式の2次テイラー展開における剰余項を解析することで漸近正規性を導出。弱い正則性およびスパarsity条件の下で、この剰余項が $o_p(n^{-1/2})$ であることを示す。
• 推定量の依存性を分離するために、$\hat{\gamma}_i$ の依存構造を解体するためのプロキシ $\gamma_n^\star(X_i)$ を導入。これにより、集中不等式とモーメントバウンドの適用が可能になる。
• 各成分のヘッセ行列展開をモーメント条件と $\hat{\gamma}$ の平均二乗一致性を用いてバウンドすることで、バイアス項 $\text{rem}_n$ が $o_p(n^{-1/2})$ であることを確立。

実験結果

リサーチクエスチョン

• RQ1 β-min条件に依存しない高次元単一インデックスモデルにおける平均部分効果の推定で、√n-一貫性および漸近正規性を達成できるか？
• RQ2 特徴量が相関関係にあり、弱い効果を持つ場合、相関のある特徴量が存在する高次元APE推定において、交絡要因へのロバスト性をどのように向上できるか？
• RQ3 共変数の相関構造を明示的にモデル化することで、非線形モデルにおけるAPE推定量のバイアスと分散にどのような影響を与えるか？
• RQ4 インデックスパラメータに非線形性を含むモデルにおいて、提案手法のデバイアス除去法が有効な推論をもたらす条件は何か？
• RQ5 リンク関数の非線形性がインデックスパラメータに非線形依存をもたらす場合、このデバイアス除去フレームワークは単一インデックスモデルに適応可能か？

主な発見

• 提案手法は、Wooldridge と Zhu (2018) よりも弱い仮定の下で、β-min条件を必要とせず、√n-一貫性および漸近正規性を達成する。
• 特徴量が交絡要因と相関関係にあり、弱い効果を持つ場合でも、シミュレーションにより高次元設定下で交絡要因に対してロバストであることが示された。
• 推定量の漸近展開における剰余項が $o_p(n^{-1/2})$ であるため、バイアスが漸近分布を支配しないことが保証される。
• デバイアス補正重みのためのプロキシ $\gamma_n^\star(X_i)$ の使用により、剰余項の分解とバウンドが、モーメント条件と集中不等式を用いて可能となった。
• 理論的解析により、$\hat{\gamma}_i$ によるバイアス補正が、$\hat{\theta}_j$ における正則化由来のバイアスを効果的に除去し、有効な推論を可能にすることが示された。
• リンク関数の微分の有界な導関数を有する一般単一インデックスモデルに適用可能であり、プロビットモデルも特別な場合として含む。