[論文レビュー] Causal Machine Learning: A Survey and Open Problems

Jean Kaddour, Aengus Lynch+3 more|arXiv (Cornell University)|Jun 30, 2022

Bayesian Modeling and Causal Inference被引用数 87

ひとこと要約

本論文は Causal Machine Learning (CausalML) を調査し、研究を 5 つの問題領域に分類し、応用とベンチマークをレビューし、因果性、学習、説明、公平性、そして強化学習を横断する未解決の課題を概説する。

ABSTRACT

Causal Machine Learning (CausalML) is an umbrella term for machine learning methods that formalize the data-generation process as a structural causal model (SCM). This perspective enables us to reason about the effects of changes to this process (interventions) and what would have happened in hindsight (counterfactuals). We categorize work in CausalML into five groups according to the problems they address: (1) causal supervised learning, (2) causal generative modeling, (3) causal explanations, (4) causal fairness, and (5) causal reinforcement learning. We systematically compare the methods in each category and point out open problems. Further, we review data-modality-specific applications in computer vision, natural language processing, and graph representation learning. Finally, we provide an overview of causal benchmarks and a critical discussion of the state of this nascent field, including recommendations for future work.

研究の動機と目的

• 機械学習研究者のための最小限で自己完結型の因果性の入門を提供する。
• CausalML の研究を5つの問題クラスに分類し、各クラス内のアプローチを比較する。
• モダリティ別の応用（視覚、NLP、グラフ学習）と因果ベンチマークをレビューする。
• CausalML における実践的な利点、課題、および未解決の研究課題について議論する。
• 今後の研究開発と分野の方向性に関する提言を提供する。

提案手法

• 鍵となる因果性の概念と標準的な形式主義（ベイズネットワーク、グラフィカル因果モデル、SCM）を紹介する。
• 介入（do 演算子）と反実仮想を定義し、因果の階梯を説明する。
• SCMs に基づく独立な機構と構造的仮定を説明する。
• CausalML カテゴリの分類法を提供する：因果付き教師あり学習、因果生成モデル、因果説明、因果的公平性、因果強化学習。
• コンピュータビジョン、自然言語処理、グラフ表現学習の応用を調査する。
• 因果ベンチマークと分野の現状を要約し、良い点・悪い点・ひどい点を含む考慮事項を含めて、分野の現状を要約する。

実験結果

リサーチクエスチョン

• RQ1 コアな因果性の形式主義は何か、そしてそれらは介入と反実仮想をどのように運用化するのか？
• RQ2 既存の CausalML 手法をどのように分類し、各カテゴリ内でアプローチを比較できるか？
• RQ3 モダリティを超えて CausalML を推進する主要な応用とベンチマークは何か？
• RQ4 因果性、学習、説明、公平性、RL において浮かぶ未解決の問題と今後の方向性は何か？

主な発見

• 本論文は ML 研究者のための最小限で自己完結型の因果性入門を提供する。
• CausalML の研究を5つの問題クラスに分類する分類法を提案し、各クラス内のアプローチを体系的に比較する。
• 視覚、NLP、グラフ学習といったモダリティ別の応用と因果ベンチマークをレビューしている。
• 実務への適用における利点（良い点）と課題（悪い点／ひどい点）について論じている。
• 未解決の問題を浮き彫りにし、今後の研究の方向性に関する指針を示している。