[論文レビュー] Perfect Match: A Simple Method for Learning Representations For Counterfactual Inference With Neural Networks

Patrick Schwab, Lorenz Linhardt+1 more|arXiv (Cornell University)|Oct 1, 2018

Advanced Causal Inference Techniques参考文献 39被引用数 56

ひとこと要約

Perfect Match (PM) はminibatchをpropensity-score matched neighboursで拡張し、治療数に関係なく counterfactual inference のための neural networks を訓練します。複数のベンチマークで複雑な baselines を上回り、アーキテクチャやハイパーパラメータに依存しません。

ABSTRACT

Learning representations for counterfactual inference from observational data is of high practical relevance for many domains, such as healthcare, public policy and economics. Counterfactual inference enables one to answer "What if...?" questions, such as "What would be the outcome if we gave this patient treatment $t_1$?". However, current methods for training neural networks for counterfactual inference on observational data are either overly complex, limited to settings with only two available treatments, or both. Here, we present Perfect Match (PM), a method for training neural networks for counterfactual inference that is easy to implement, compatible with any architecture, does not add computational complexity or hyperparameters, and extends to any number of treatments. PM is based on the idea of augmenting samples within a minibatch with their propensity-matched nearest neighbours. Our experiments demonstrate that PM outperforms a number of more complex state-of-the-art methods in inferring counterfactual outcomes across several benchmarks, particularly in settings with many treatments.

研究の動機と目的

• 観測データからの counterfactual inference の動機づけと、堅牢でスケーラブルな neural methods の必要性。
• 任意の数の治療がある settings へ counterfactual learning を拡張する。
• 追加のハイパーパラメータを必要とせず、治療割り当てバイアスを低減する、シンプルでアーキテクチャに依存しない訓練メカニズムを提供する。

提案手法

• Perfect Match (PM) を導入する。バランシングスコア（propensity scores または covariates）を用いた minibatch レベルのマッチング戦略で、各サンプルを nearest-neighbour counterfactuals で補強する。
• 共有ベースと治療ごとのヘッドを持つ、多数の治療に対する TARNET アーキテクチャを拡張する。
• データセットサイズが増加するにつれて、unconfoundedness の下で potential outcomes の一貫した推定量をもたらすよう PM を用いてニューラルネットワークを訓練する。
• counterfactual ラベルが利用できない場合、モデル選択の指標として NN-PEHE を用いる。
• IHDP および News データセットにおいて、2つおよび複数の治療を用いて、PM を複数の baselines (kNN, BART, RF, CF, GANITE, BNN, CFRNET, PD) と比較する。

実験結果

リサーチクエスチョン

• RQ1 バイナリおよびマルチ治療設定における counterfactual outcomes の推定で、PMは最先端手法と比較してどう性能を示すか。
• RQ2 NN-PEHE に基づくモデル選択は、factual MSE に基づく選択を上回るか。
• RQ3 各 minibatch あたりのマッチしたサンプルの割合は counterfactual learning にどう影響するか。
• RQ4 観測データにおける治療割り当てバイアスの増加に対する PM のロバスト性は。
• RQ5 minibatch マッチは dataset-level のマッチ戦略より優れているか。

主な発見

• PM は IHDP および News データセット全体で多くの複雑なベースラインを一貫して上回り、特に治療数が増えるにつれて顕著。
• minibatches 内で propensity scores または低次元表現でマッチングし、multi-head TARNET と組み合わせると、 counterfactual の予測性能が高い。
• NN-PEHE は真の PEHE と MSE よりも良く相関し、 counterfactual inference のモデル選択基準として NN-PEHE を支持。
• minibatch ごとのマッチサンプル割合を増やすと counterfactual error が改善され、控えめなマッチング頻度でも効果がある。
• PM は競合法よりも高い治療割り当てバイアスに対してロバスト性を示す。