[論文レビュー] Double Machine Learning for Static Panel Models with Fixed Effects

Paul B. S. Clarke, Annalivia Polselli|arXiv (Cornell University)|Dec 13, 2023

Energy, Environment, Economic Growth被引用数 6

ひとこと要約

本稿は、固定効果を伴う静的パネルデータモデルに対して、ダブルマシンラーニング（DML）フレームワークを構築し、標本分割とマシンラーニングを用いたネガティブパラメータの推定により、処置効果を直交化することで因果推論を可能にする。この手法は、高次元的または非線形な交絡要因が存在する状況でも、処置効果推定量のroot-n漸近正規性を保証し、シミュレーション設計および実証応用の両方で、従来のOLSやLassoよりもバイアス低減およびロバストネスに優れる。

ABSTRACT

Recent advances in causal inference have seen the development of methods which make use of the predictive power of machine learning algorithms. In this paper, we develop novel double machine learning (DML) procedures for panel data in which these algorithms are used to approximate high-dimensional and nonlinear nuisance functions of the covariates. Our new procedures are extensions of the well-known correlated random effects, within-group and first-difference estimators from linear to nonlinear panel models, specifically, Robinson (1988)'s partially linear regression model with fixed effects and unspecified nonlinear confounding. Our simulation study assesses the performance of these procedures using different machine learning algorithms. We use our procedures to re-estimate the impact of minimum wage on voting behaviour in the UK. From our results, we recommend the use of first-differencing because it imposes the fewest constraints on the distribution of the fixed effects, and an ensemble learning strategy to ensure optimum estimator accuracy.

研究の動機と目的

• 観察されない個人差が処置変数に内生的である可能性がある、固定効果を伴う静的パネルデータモデルにおける交絡要因の課題に対処すること。
• ダブルマシンラーニング（DML）をパネルデータ設定に拡張し、高次元的または非線形なネガティブパラメータが存在する状況でも、処置効果の有効な推論を可能にすること。
• マーチャントの装置に基づく固定効果を用い、マシンラーニングを用いて結果の条件付き平均を柔軟にモデル化することで、新規推定量（CRE、WG/FDハイブリッド、WG/FD近似）の開発と評価を行うこと。
• モンテカルロシミュレーションおよび最低賃金と投票行動に関する実証応用を通じて、DMLのロバストネスおよび有限標本性能を示すこと。
• 観察パネルデータ設定において、任意のマシンラーナー（例：Lasso、CART、ランダムフォレスト）を用いたDMLの実用的で一般化可能なフレームワークを提供すること。

提案手法

• 過学習を回避するため、データをK個のフォールドに分割し、各フォールドでネガティブ関数（例：処置および結果の条件付き期待値）を別々に推定する。
• ハイパーパramータチューニングをランダムグリッドサーチで行い、Lasso、CART、ランダムフォレストなどのマシンラーニング手法を用いて、各フォールドで $\widehat{m}(\mathbf{x}_{it})$ および $\widehat{l}(\mathbf{x}_{it})$ のネガティブ関数を推定する。
• 2段階のDML手順を採用：第1段階で各フォールドでネガティブパラメータを推定し、第2段階で残差化処置変数および残差化結果変数を用いて $\theta$ の直交化推定方程式を解く。
• モーメント条件 $\mathbb{E}[\psi(\widetilde{W}_{it}; \theta, \widehat{\eta}_k)] = 0$ に基づく閉形式解によりDML推定量 $\widehat{\theta}_k$ を導出する。ここで $\psi$ は、残差化処置および残差化結果の積として定義される。
• フォールドごとの $\widehat{\theta}_k$ 推定量を平均化して最終的なDML推定量を取得し、正規性条件のもとでroot-n一貫性および漸近正規性を保証する。
• 推論にはクラスターロバスト分散推定を用い、$\widehat{J}_0$ は各フォールドにおける処置回帰の平均二乗残差から計算される。

実験結果

リサーチクエスチョン

• RQ1 ダブルマシンラーニングは、固定効果を伴う静的パネルデータモデルに適応可能であり、処置効果の有効な推論を可能にするか？
• RQ2 真の関数形が非線形または高次元的である場合、Lasso、CART、ランダムフォレストといった異なるマシンラーニング手法が、ネガティブパラメータをどの程度正確に推定できるか？
• RQ3 標本分割と直交化を用いたDMLアプローチは、固定効果が存在する有限標本において、従来のOLSやLasso（辞書ベース）と比較してバイアス低減に効果を示すか？
• RQ4 DML推定量はハイパーパramータチューニングにどの程度感度を示し、その結果が実証的ロバストネスにどのような影響を及えるか？
• RQ5 DMLフレームワークは、UKの最低賃金が投票行動に与える影響のような実世界のパネルデータに効果的に適用可能か？

主な発見

• DMLにLasso、CART、ランダムフォレストを適用した場合、特に非線形なデータ生成過程（DGP）下では、OLSや辞書ベースのLassoと比較して処置効果推定におけるバイアスが顕著に低減される。
• 木ベースの手法（CARTおよびランダムフォレスト）は、標準誤差を低めに推定し、正規分布でない標本分布を示しており、小標本ではサイズの歪みが生じる可能性がある。
• 直交化および標本分割のメカニズムにより、ネガティブ関数が非線形であっても、DML推定量はroot-n一貫性および漸近正規性を維持する。
• UKの最低賃金に関する実証応用では、CARTおよびランダムフォレストを用いたDMLは、OLS（0.088、SE=0.045）と比較して、より大きな推定値（0.149、SE=0.127）を示し、線形モデルにおける異質性またはモデルミススペシフィケーションの可能性を示唆している。
• ランダムグリッドサーチによるハイパーパラメータチューニングを伴うDMLフレームワークは、滑らかでない、非線形な関係を含むさまざまなDGPにおいて、ロバストな性能を示す。
• WG/FDハイブリッドおよびCRE推定量は、固定効果が共変数と非線形に関連する場合、標準的固定効果推定量よりも有限標本性能が向上している。

(a)