[論文レビュー] A Survey on Causal Inference

Liuyi Yao, Zhixuan Chu+4 more|arXiv (Cornell University)|Feb 5, 2020

Advanced Causal Inference Techniques参考文献 147被引用数 24

ひとこと要約

本サーベイは、潜在的アウトカム枠組みにおける因果推論手法について包括的なレビューを提供し、3つの核心的仮定（SUTVA、一貫性、無視可能性）に依存するかどうかに基づいて分類している。観察データからの平均処置効果および個別処置効果の推定において、従来の統計的手法と最近の機械学習強化手法を比較し、広告、医療、教育、強化学習における応用を含む。再現性および評価を可能にするため、ベンチマークデータセットとオープンソースツールを収集している。

ABSTRACT

Causal inference is a critical research topic across many domains, such as statistics, computer science, education, public policy and economics, for decades. Nowadays, estimating causal effect from observational data has become an appealing research direction owing to the large amount of available data and low budget requirement, compared with randomized controlled trials. Embraced with the rapidly developed machine learning area, various causal effect estimation methods for observational data have sprung up. In this survey, we provide a comprehensive review of causal inference methods under the potential outcome framework, one of the well known causal inference framework. The methods are divided into two categories depending on whether they require all three assumptions of the potential outcome framework or not. For each category, both the traditional statistical methods and the recent machine learning enhanced methods are discussed and compared. The plausible applications of these methods are also presented, including the applications in advertising, recommendation, medicine and so on. Moreover, the commonly used benchmark datasets as well as the open-source codes are also summarized, which facilitate researchers and practitioners to explore, evaluate and apply the causal inference methods.

研究の動機と目的

• 潜在的アウトカム枠組み下での因果推論手法について、体系的かつ最新のレビューを提供すること。
• 3つの核心的仮定（SUTVA、一貫性、無視可能性）に依存するかどうかに基づいて、既存の手法を分類すること。
• 処置効果推定における従来の統計的手法と最近の機械学習強化手法を比較すること。
• 広告、医療、教育、レコメンデーションシステムなどの分野における因果推論の実世界応用を要約すること。
• 再現性および実用的採用を支援するため、ベンチマークデータセットとオープンソース実装を収集すること。

提案手法

• 潜在的アウトカム枠組みの3つの仮定にすべて依存する手法と、1つ以上の仮定を緩和する手法に因果推論手法を2つのグループに分類する。
• 逆確率重み付け（IPW）、二重にロバストな推定、CBPSのようなバランス化アプローチを含む従来の手法をレビューする。
• 表現学習、GANベースの手法（例：GANITE）、個別処置効果（ITE）推定のためのニューラルネットワークベース推定器を含む機械学習強化手法を検討する。
• 観測されない交絡要因に対処するため、不確実な傾向スコア重みの集合上で最適化する、交絡要因に強いポリシー学習フレームワークを紹介する。
• 選択バイアス下でのモデル一般化を改善するため、サンプルを再重み付けするバランス化正則化項を提示する。
• 主な評価指標とベンチマークを要約し、Jobs、IHHP、Criteoなどのデータセットおよびオープンソースコードリポジトリを提示する。

実験結果

リサーチクエスチョン

• RQ1 観察データからの平均処置効果および個別処置効果の推定において、従来の統計的手法と最近の機械学習アプローチはどのように比較されるか？
• RQ2 因果推論において、3つの核心的仮定（SUTVA、一貫性、無視可能性）を緩和した場合の影響は何か。また、その緩和に対応するための手法はどのように適応するか？
• RQ3 広告、医療、教育などの実世界分野における意思決定改善に、因果推論手法はどのように応用できるか？
• RQ4 ポリシー学習および処置効果推定において、観測されない交絡要因はどのように扱えるか。また、その耐性を保証するフレームワークは何か？
• RQ5 因果推論における再現性のある研究およびベンチマークを支援する、公開可能なデータセットとオープンソースツールは何か？

主な発見

• 潜在的アウトカム枠組みは、観察データからの平均処置効果および個別処置効果の推定において、基盤的かつ広く用いられるアプローチのままである。
• GANITE や表現学習のような機械学習強化手法は、データ内の複雑で高次元の関係をモデル化することで、ITE推定を改善する。
• 二重にロバストな手法は、アウトカム回帰モデルと傾向スコアモデルを組み合わせることでバイアスを低減し、特に一方のモデルが誤指定された場合でも推定の安定性を向上させる。
• 交絡要因に強いポリシー学習フレームワークは、不確実な傾向スコア重みの集合上で最適化することで、観測されない交絡要因に起因する悪影響を軽減できる。
• CBPSなどの手法から導出されるバランス化正則化項は、訓練における選択バイアスを低減するためのサンプル再重み付けにより、モデルの一般化を向上させる。
• Jobs、IHHP、Criteo などのベンチマークデータセットとオープンソース実装のキュレートリストは、因果推論研究における再現性およびメソッド間比較評価を促進する。