[論文レビュー] Can predictive models be used for causal inference?

Maximilian Pichler, Florian Härtig|arXiv (Cornell University)|Jun 18, 2023

Explainable Artificial Intelligence (XAI)被引用数 5

ひとこと要約

この論文は、特徴量選択がペイルのバックドア基準に従う場合、予測機械学習（ML）およびディープラーニング（DL）モデルを因果推論に効果的に再利用できることを示している。因果的特徴量に制限して学習させることで、深層ニューラルネットワークは特徴量の共線性が高まってもほぼバイアスのない因果効果推定を達成し、一般化性能が著しく向上する。これは、予測と説明の間に根本的なトレードオフがあるという長年の信念に挑戦するものである。

ABSTRACT

Supervised machine learning (ML) and deep learning (DL) algorithms excel at predictive tasks, but it is commonly assumed that they often do so by exploiting non-causal correlations, which may limit both interpretability and generalizability. Here, we show that this trade-off between explanation and prediction is not as deep and fundamental as expected. Whereas ML and DL algorithms will indeed tend to use non-causal features for prediction when fed indiscriminately with all data, it is possible to constrain the learning process of any ML and DL algorithm by selecting features according to Pearl's backdoor adjustment criterion. In such a situation, some algorithms, in particular deep neural networks, can provide near unbiased effect estimates under feature collinearity. Remaining biases are explained by the specific algorithmic structures as well as hyperparameter choice. Consequently, optimal hyperparameter settings are different when tuned for prediction or inference, confirming the general expectation of a trade-off between prediction and explanation. However, the effect of this trade-off is small compared to the effect of a causally constrained feature selection. Thus, once the causal relationship between the features is accounted for, the difference between prediction and explanation may be much smaller than commonly assumed. We also show that such causally constrained models generalize better to new data with altered collinearity structures, suggesting generalization failure may often be due to a lack of causal learning. Our results not only provide a perspective for using ML for inference of (causal) effects but also help to improve the generalizability of fitted ML and DL models to new data.

研究の動機と目的

• 予測MLおよびDLモデルが、非因果的相関に関する一般的な仮定があるにもかかわらず、因果推論に使用可能かどうかを調査すること。
• 因果的に情報のある特徴量選択が、因果効果推定におけるモデルバイアスと一般化性能に与える影響を評価すること。
• 予測と推論のためのハイパーパrameterチューニングを比較し、最適な設定における違いを同定すること。
• 特徴量の共線性構造を変更した状況でのモデル性能を評価し、訓練データを超えた一般化能力をテストすること。
• 予測精度と因果的解釈可能性の間に根本的なトレードオフがあるという認識に反論すること。

提案手法

• ペイルのバックドア基準を適用して、バックドア交絡経路を遮断する特徴量を選択し、因果的同定を保証すること。
• 因果的に選択された特徴量上で標準的なMLおよびディープラーニングモデル（例：フィードフォワードニューラルネットワーク）を訓練し、因果効果を推定すること。
• 反事後予測と効果推定を用いて、学習済みモデルのバイアスと精度を評価すること。
• 特徴量の共線性レベルを変化させた状況でのモデル性能を比較し、耐性および一般化能力を評価すること。
• 予測と推論の目的別にハイパーパrameterを別々にチューニングし、最適化目標の影響を隔離すること。
• 多様なデータ生成プロセスを想定したシミュレーションスタディを実施し、バイアス、分散、一般化性能を評価すること。

実験結果

リサーチクエスチョン

• RQ1 因果的に選択された特徴量上で学習された予測MLモデルは、バイアスのない因果効果推定を達成できるか？
• RQ2 バックドア基準に基づく特徴量選択が、因果推論におけるモデルバイアスと一般化性能に与える影響は何か？
• RQ3 因果的特徴量上で学習されたモデルにおいて、予測性能と因果的解釈可能性の間に顕著なトレードオフがあるか？
• RQ4 予測と因果推論の最適化をそれぞれ目的とした場合、ハイパーパrameterの選択はどのように異なるか？
• RQ5 因果的特徴量選択は、データ分布が変更された状況でも、モデルの一般化性能をどの程度向上させるか？

主な発見

• 因果的に制約けた特徴量選択により、深層ニューラルネットワークは、高い特徴量の共線性下でもほぼバイアスのない因果効果推定を達成できる。
• モデル推定のバイアスは、非因果的特徴量の存在よりも、アルゴリズムの構造とハイパーパrameterの選択に起因する。選択が適切に行われていれば、その影響は限定的である。
• 因果的特徴量選択を施したモデルは、共線性構造が変化した新しいデータに対しても、顕著に優れた一般化性能を示す。これは、一般化失敗がしばしば因果的学習の欠如に起因している可能性を示唆する。
• 推論のためのハイパーパrameterチューニングは、予測のためのものとは異なる設定を要するが、これはトレードオフを確認するものである。しかしそのトレードオフは、因果的特徴量選択の影響に比べれば小さい。
• 因果的構造が特徴量選択に適切に組み込まれている場合、予測性能と因果的解釈可能性のギャップは、一般的に想定されているほど大きくない。
• 因果的特徴量選択により、誤った相関に依存する度合いが低下し、因果的文脈におけるMLモデルの解釈可能性と耐性が向上する。