[論文レビュー] Debiased Bayesian inference for average treatment effects

Kolyan Ray, Botond Szabó|arXiv (Cornell University)|Sep 26, 2019

Advanced Causal Inference Techniques被引用数 5

ひとこと要約

本稿では、推定された感受性スコアを用いて任意の非パラメトリック事前分布（特にガウス過程事前分布）を修正することで、平均処置効果（ATE）のベイジアン推論におけるデータ駆動型デバイアス補正手法を提案する。この手法は、1次の事後分布バイアスを是正し、推定精度と不確実性の定量化を著しく向上させ、合成データおよび準合成データの両方において、GPベースの推論を最先端の手法と同等の性能にまで高める。

ABSTRACT

Bayesian approaches have become increasingly popular in causal inference problems due to their conceptual simplicity, excellent performance and in-built uncertainty quantification ('posterior credible sets'). We investigate Bayesian inference for average treatment effects from observational data, which is a challenging problem due to the missing counterfactuals and selection bias. Working in the standard potential outcomes framework, we propose a data-driven modification to an arbitrary (nonparametric) prior based on the propensity score that corrects for the first-order posterior bias, thereby improving performance. We illustrate our method for Gaussian process (GP) priors using (semi-)synthetic data. Our experiments demonstrate significant improvement in both estimation accuracy and uncertainty quantification compared to the unmodified GP, rendering our approach highly competitive with the state-of-the-art.

研究の動機と目的

• ガウス過程などの非パラメトリック事前分布を用いたベイジアンATE推定において、継続的な1次事後分布バイアスの問題に対処すること。
• 真の応答面に関する事前の知識を必要とせず、一般化可能でデータ駆動型の手法により、事後分布バイアスを是正すること。
• 欠落した反実仮想反応と選択バイアスが存在する観察的因果推論において、推定精度と不確実性の定量化（信用区間を用いて）を向上させること。
• デバイアス補正が、BART やダブルロバスト推定量などの最先端の手法と同等の性能を示す標準的なGP事前分布を可能にすることを示すこと。
• 共変量分布のランダム化が、ATE推定における信頼性の高い不確実性の定量化に役立つが、必須ではないこと。

提案手法

• 感受性スコアの推定に基づくデータ駆動型補正を用いて、ガウス過程の事前共分散カーネルを修正する。
• 処置割り当てにおける選択バイアスを考慮することで、ATEの事後分布が真の値を中心に集中するようにデバイアス補正を行う。
• 元の事前分布構造に依存しない汎用的アプローチであり、任意の非パラメトリック事前分布に適用可能で、GP事前分布を主な例として挙げる。
• 推定された感受性スコアに一致するようにGP事前分布の平均関数を調整することで補正を実装し、効果的に事後分布を再中心化する。
• 半パラメトリックなベルンシュタイン＝フォン・ミーゼスの定理に基づき、95%信用区間の漸近的頻度的カバレッジを保証する。
• シミュレーションおよび準合成データを用いた実験により、vanilla GP、BART、ダブルロバスト推定量と比較して、本手法の有効性を検証する。

実験結果

リサーチクエスチョン

• RQ1 非パラメトリック事前分布に対するデータ駆動型修正が、平均処置効果推定における1次事後分布バイアスを是正できるか？
• RQ2 GP事前分布に感受性スコアを組み込むことで、観察研究における推定精度と不確実性の定量化がどのように向上するか？
• RQ3 提案されたデバイアス補正手法が、BART やダブルロバスト推定量などの最先端の因果推論手法と同等の性能を示すGPベースのベイジアン推論を可能にするか？
• RQ4 共変量分布のランダム化が、ATEおよびCATEの不確実性の定量化に与える影響は何か？
• RQ5 このデバイアス補正フレームワークは、ガウス過程を越えた他の非パラメトリック事前分布にも一般化可能か？

主な発見

• 提案されたデバイアス補正GP手法は、特に複雑な応答面を有する高次元設定において、vanilla GP事前分布よりも推定精度と不確実性の定量化の両面で顕著に優れている。
• 合成シミュレーションでは、vanilla GP手法がATE推定において非消滅バイアスを示し、標本サイズが増加するにつれて誤った値に事後分布が集中し、不確実性の定量化が悪化した。
• デバイアス補正手法は、信用区間の頻度的カバレッジがほぼ理想の95%に近づき、修正されていないGP事前分布よりも著しく良好なキャリブレーションを達成した。
• IHDPデータセットでは、デバイアス補正GPはBARTや因果フォレストを上回る推定精度を示したが、BCFが最も優れていた。しかし、デバイアス補正GPは、高いカバレッジを示し、最も信頼性の高い不確実性の定量化を提供した。
• 共変量分布のランダム化は、ATEの不確実性の定量化を改善したが、本手法の性能には必須ではなく、デバイアス補正の堅牢性を示している。
• 本手法の改善は、事後分散の増加によるものではなく、バイアス補正によるものであることが、信用区間長のわずかな増加にもかかわらずカバレッジが向上したという事実から裏付けられた。