[論文レビュー] Learning Interpretable Models with Causal Guarantees

Carolyn Kim, Osbert Bastani|arXiv (Cornell University)|Jan 24, 2019

Explainable Artificial Intelligence (XAI)参考文献 41被引用数 12

ひとこと要約

本論文は、任意の解釈可能な教師あり学習アルゴリズムを、因果的保証を伴う個別処置効果（ITE）予測モデルに変換する一般枠組みを提案する。モデル圧縮を用いて、仮想の無作為化比較試験（RCT）から導かれた分布上で解釈可能なモデルを学習させることで、因果的妥当性を保ちつつ解釈可能性を維持し、実世界のデータにおいてベースラインを実証的に上回る性能を示す。特にITE予測精度において顕著な向上を達成する。

ABSTRACT

Machine learning has shown much promise in helping improve the quality of medical, legal, and financial decision-making. In these applications, machine learning models must satisfy two important criteria: (i) they must be causal, since the goal is typically to predict individual treatment effects, and (ii) they must be interpretable, so that human decision makers can validate and trust the model predictions. There has recently been much progress along each direction independently, yet the state-of-the-art approaches are fundamentally incompatible. We propose a framework for learning interpretable models from observational data that can be used to predict individual treatment effects (ITEs). In particular, our framework converts any supervised learning algorithm into an algorithm for estimating ITEs. Furthermore, we prove an error bound on the treatment effects predicted by our model. Finally, in an experiment on real-world data, we show that the models trained using our framework significantly outperform a number of baselines.

研究の動機と目的

• 医療、法曹、金融分野における意思決定のため、因果的かつ解釈可能な機械学習モデルの必要性に対応すること。
• 最新のブラックボックス因果モデルと解釈可能なモデルの間にある根本的な不適合性を克服すること。
• 任意の解釈可能な教師あり学習アルゴリズムを、因果的ITE予測に適応可能な一般枠組みを開発すること。
• 得られた解釈可能なモデルの性能に関する理論的誤差バインディングを提供すること。
• 観測データのみを用いた標準ベースラインと比較して、本フレームワークがITE予測精度を顕著に向上させることを実証的に検証すること。

提案手法

• フレームワークはモデル圧縮を用いる：仮想のRCTから導かれた分布上で、事前に学習済みのブラックボックスオラクルモデルを近似する解釈可能なモデルを学習する。
• RCT分布は、処置割り当てが共変量と独立であると仮定することで構築され、因果的妥当性を保証する。
• 最終的な解釈可能なモデルは、処置ありと処置なしの予測値の差分によりITEを予測する：$\hat{\tau}_{f}(x) = \hat{f}(x,1) - \hat{f}(x,0)$。
• 理論的分析により、解釈可能なモデルの誤差が、オラクルモデルのRCT分布上での誤差、その分布上での最良の解釈可能なモデルの誤差、および一般化誤差に分解されることを示した。
• 強い無視可能性仮定を活用することで、因果表現学習の既存の保証を解釈可能なモデルに拡張した。
• 本手法は解釈可能なモデルの選択に依存しないため、決定木、LASSO、GBM、ランダムフォレストなど、さまざまなモデルと組み合わせ可能である。

実験結果

リサーチクエスチョン

• RQ1 任意の解釈可能な教師あり学習アルゴリズムを、因果的保証を伴う個別処置効果予測モデルに変換できる一般枠組みを設計できるか？
• RQ2 得られた解釈可能なモデルの性能は、オラクルブラックボックスモデルの品質とベースアルゴリズムの解釈可能性にどのように依存するか？
• RQ3 本フレームワークで学習された解釈可能なモデルによるITE予測に対して、確立可能な理論的誤差バインディングは何か？
• RQ4 本フレームワークは、観測データのみを用いた標準ベースラインを上回るITE予測性能を示すか？
• RQ5 実際のRCTデータが存在しない状況下で、RCTを模した分布の使用が因果的一般化をどの程度向上させるか？

主な発見

• 提案されたフレームワークは、全テスト対象のモデルファミリーにおいて、ITE予測の二乗平均誤差の平方根である$\sqrt{\epsilon_{\mathrm{PEHE}}}$の観点から、ベースライン手法を一貫して上回った。
• IHDPデータセットでは、CART木を用いて$\sqrt{\epsilon_{\mathrm{PEHE}}}$が0.439 ± 0.02を達成し、ベースラインの0.534 ± 0.03よりも顕著に優れた性能を示した。
• ハッピーな木（honest trees）では、フレームワークが0.439 ± 0.02、ベースラインが0.470 ± 0.03を記録し、因果推論に特化したモデルに対しても改善が確認された。
• LASSO、カーネルリッジ回帰、GBM、ランダムフォレストを含む全モデルファミリーにおいて、性能向上が確認され、広範な適用可能性が示された。
• 特にITE予測において顕著な改善が見られ、$\sqrt{\epsilon_{\mathrm{PEHE}}}$が一貫して低減した。一方、ATE予測についても大多数のケースで向上が観察された。
• 結果から、RCTデータが欠如する代償がオラクルモデルの誤差によって上限づけられ、本フレームワークがRCT分布上でのモデル圧縮によりこのコストを効果的に低減していることが確認された。