[論文レビュー] Cross-Fitting and Averaging for Machine Learning Estimation of Heterogeneous Treatment Effects

Daniel J. Jacob|arXiv (Cornell University)|Jul 6, 2020

Advanced Causal Inference Techniques被引用数 9

ひとこと要約

本稿は、メタ・ラーナー（T-learner, DR-learner, R-learner, X-learner）を用いた機械学習による異質的処置効果推定において、サンプル分割、クロスフィットティング、平均化戦略を評価している。5-foldクロスフィットティングと20回以上の反復における中央値平均化を組み合わせた手法が、特に複雑なデータ構造において最小の平均二乗誤差を達成しており、分散を低減し、頑健性を向上させるためにlassoの排除を推奨する。

ABSTRACT

We investigate the finite sample performance of sample splitting, cross-fitting and averaging for the estimation of the conditional average treatment effect. Recently proposed methods, so-called meta-learners, make use of machine learning to estimate different nuisance functions and hence allow for fewer restrictions on the underlying structure of the data. To limit a potential overfitting bias that may result when using machine learning methods, cross-fitting estimators have been proposed. This includes the splitting of the data in different folds to reduce bias and averaging over folds to restore efficiency. To the best of our knowledge, it is not yet clear how exactly the data should be split and averaged. We employ a Monte Carlo study with different data generation processes and consider twelve different estimators that vary in sample-splitting, cross-fitting and averaging procedures. We investigate the performance of each estimator independently on four different meta-learners: the doubly-robust-learner, R-learner, T-learner and X-learner. We find that the performance of all meta-learners heavily depends on the procedure of splitting and averaging. The best performance in terms of mean squared error (MSE) among the sample split estimators can be achieved when applying cross-fitting plus taking the median over multiple different sample-splitting iterations. Some meta-learners exhibit a high variance when the lasso is included in the ML methods. Excluding the lasso decreases the variance and leads to robust and at least competitive results.

研究の動機と目的

• 異質的処置効果を推定する際の、さまざまなサンプル分割戦略、クロスフィットティング、平均化手順の有限標本性能を評価すること。
• ランダム化比較試験（RCTs）と観察的研究の異なるデータ生成プロセスが、メタ・ラーナー間の推定子性能に与える影響を評価すること。
• 高次元または非線形な設定において、バイアスと平均二乗誤差（MSE）を最小化する最適な分割および平均化戦略を特定すること。
• 機械学習部品にlassoを用いることが、推定子の分散と頑健性に与える影響を調査すること。
• 実世界の因果推論におけるクロスフィットティングと平均化の実装に関する実用的指針を提供すること。

提案手法

• 本研究は、分割戦略（2-fold, 3-fold, 5-fold）、クロスフィットティング、平均化手法（平均、中央値、平均化なし）を組み合わせた12種類の異なる推定子を用いた包括的なモンテカルロシミュレーションを実施した。
• 各推定子は、同一のデータ生成プロセス（DGPs）を用いて、T-learner, DR-learner, R-learner, X-learnerの4つのメタ・ラーナーに独立して適用された。
• クロスフィットティングでは、データをフォールドに分割し、処置効果推定（CATE）に使用するフォールドを除いたすべてのフォールドでネイビュア関数を訓練し、フォールド間で結果を平均化した。
• 最大50回までのサンプル分割反復を実施し、得られたCATE推定値の中央値をとることで、単一の分割に起因する分散とバイアスを低減した。
• 性能評価は、独立したテストセットを用い、平均二乗誤差（MSE）、平均絶対バイアス、標準偏差を指標として行った。
• 一部のバージョンではlassoを除外することで、推定子の安定性と分散への影響を評価した。

実験結果

リサーチクエスチョン

• RQ1 さまざまなデータ生成プロセスにおいて、どのサンプル分割および平均化戦略が平均二乗誤差（MSE）を最小にするか？
• RQ2 機械学習部品にlassoを含めるか否かが、推定子の分散と頑健性に与える影響は何か？
• RQ3 単一分割または平均値平均化と比較して、複数反復における中央値平均化は推定子性能を向上させるか？
• RQ4 ランダム化比較試験（RCT）と観察的研究の異なるデータ構造において、メタ・ラーナー（T-learner, DR-learner, R-learner, X-learner）間の性能差はどのように変化するか？
• RQ5 有限標本において性能を安定化させるために、中央値平均化に最適な反復回数は何か？

主な発見

• すべてのデータ生成プロセスおよびメタ・ラーナーにおいて、5-foldクロスフィットティングに20回以上の反復における中央値平均化を組み合わせた推定子が最小の平均二乗誤差を達成した。
• R-learnerでは、中央値平均化により、5-foldクロスフィットのMSE 3.46が、設定Eでは0.49にまで低下し、顕著な性能向上が確認された。
• 機械学習部品からlassoを除外することで、分散が顕著に低減し、すべての設定でより頑健で競争力のある結果が得られた。
• 観察的研究では、中央値平均化を施したDR-learnerが他の推定子を上回ったが、一部の設定ではT-learnerのMSEがDR-learnerの2倍にのぼった。
• X-learnerは、分割なしのナイーブ推定子において一貫して最高の性能を示し、中央値平均化により、特に高相関性の高い複雑な設定でMSEがさらに低減した。
• 組み合わせ手法（クロスフィットティング＋中央値平均化）は、外れ値や重たい尾を持つ疑似出力が存在する場合、特に小標本またはlassoベースのモデルでは、クロスフィットティング単体よりも分散が高くなることがある。