[論文レビュー] Multi-Source Causal Inference Using Control Variates

Wenshuo Guo, Serena Wang+3 more|arXiv (Cornell University)|Mar 30, 2021

Advanced Causal Inference Techniques参考文献 37被引用数 4

ひとこと要約

本稿では、因果効果が一部のデータソースでのみ同定可能である場合に、平均処置効果（ATE）推定の分散を低減するためのマルチソース因果推論フレームワークを提案する。制御変数を用いて、選択バイアスのあるデータセットにおけるオッズ比推定値の差異から制御変数を構築することで、シミュレーションおよび実世界の事例研究において顕著な分散低減が達成され、大標本ではバイアスを導入せずに推定の効率性が向上する。

ABSTRACT

While many areas of machine learning have benefited from the increasing availability of large and varied datasets, the benefit to causal inference has been limited given the strong assumptions needed to ensure identifiability of causal effects; these are often not satisfied in real-world datasets. For example, many large observational datasets (e.g., case-control studies in epidemiology, click-through data in recommender systems) suffer from selection bias on the outcome, which makes the average treatment effect (ATE) unidentifiable. We propose a general algorithm to estimate causal effects from \emph{multiple} data sources, where the ATE may be identifiable only in some datasets but not others. The key idea is to construct control variates using the datasets in which the ATE is not identifiable. We show theoretically that this reduces the variance of the ATE estimate. We apply this framework to inference from observational data under outcome selection bias, assuming access to an auxiliary small dataset from which we can obtain a consistent estimate of the ATE. We construct a control variate by taking the difference of the odds ratio estimates from the two datasets. Across simulations and two case studies with real data, we show that this control variate can significantly reduce the variance of the ATE estimate.

研究の動機と目的

• 大規模なデータセットにおいて選択バイアスが平均処置効果（ATE）の同定を不可能にする観察データにおける因果効果推定の課題に対処すること。
• 一部のデータソースではATEが同定可能で、他のデータソースでは同定不能な複数のデータソースを統合する一般的なフレームワークを構築すること。
• ATEが同定不能なデータセットから制御変数を構築することで、ATE推定量の分散を低減し、複数のソース間で一貫性があり、輸送可能な特徴を活用すること。
• 例としてケースコントロール研究やレコメンデーションシステムを含む、結果の選択バイアスがある実世界の設定において、本手法の有効性を示すこと。
• 制御変数の構築による分散低減の理論的裏付けを提供し、推定量の効率性を保証すること。

提案手法

• 大規模でバイアスのあるデータセットと小規模でバイアスのないデータセットからのオッズ比推定値の差異を用いて、制御変数を構築する。
• 小規模なデータセットを用いて一貫性のあるATE推定値を取得し、大規模なデータセットから補助的情報を得て分散を低減する。
• 交互作用項を含むロジスティック回帰、または係数が変化するニューラルネットワークを用いて、アウトカムをモデル化し、条件付きオッズ比を推定する。
• 複数のデータセット間でのオッズ比推定値の差異を関数として定式化し、これによりATE推定量を調整する制御変数を構築する。
• 有限標本における平均二乗誤差を低減するために、制御変数の調整を用いてATE推定量を最適化する。
• 合成データと2つの実世界の事例研究（インフルエンザワクチン接種の励起、スパムメール検出）を用いて、手法の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 結果の選択バイアスがある観察データにおいて、小規模でバイアスのないデータセットと組み合わせることで、ATE推定の効率性を向上させることができるか？
• RQ2 バイアスのあるデータセットから構築された制御変数は、バイアスを導入せずにどうやってATE推定量の分散を低減するのか？
• RQ3 複数のデータソース間でのオッズ比の差異から得られる制御変数を用いる場合、理論的な分散低減の利得はどの程度か？
• RQ4 高次元の共変量を伴う有限標本において、制御変数がわずかなバイアスを導入する場合、本手法はどのように性能を発揮するか？
• RQ5 本手法は、ロジスティック回帰やニューラルネットワークを含む、さまざまなアウトカムモデルに一般化可能か？

主な発見

• 制御変数アプローチは、複数のシミュレーション設定および実データの事例研究において、ATE推定量の分散を顕著に低減した。
• インフルエンザワクチン接種の事例研究では、制御変数により分散が最大40％低減され、バイアスの増加は最小限に抑えられた。
• スパムメール検出の事例研究では、小規模データセットのサイズが10,000であった場合、分散が50％以上低減されたが、有限標本ではバイアスが若干高まった。
• 制御変数にわずかなバイアスが生じても、特に高次元の設定において顕著な分散低減が達成された。
• 理論的分析により、制御変数が分散を低減することが確認され、ロジスティック回帰やニューラルネットワークを含む多様な推定手法において、実証的結果がその利得を裏付けた。
• オッズ比の差異を用いた制御変数の構築は、特に小規模データセットがATE推定の一貫性のあるベースラインを提供する場合に、強固で効果的であることが示された。