[論文レビュー] Quantifying Ignorance in Individual-Level Causal-Effect Estimates under Hidden Confounding

Andrew Jesson, Sören Mindermann+2 more|arXiv (Cornell University)|Mar 8, 2021

Advanced Causal Inference Techniques参考文献 39被引用数 11

ひとこと要約

本稿は、高次元の観察データにおける隠れ交絡要因、類似性の不足、重複性の欠如による無知を定量化する、条件付き平均処置効果（CATE）の新規パラメトリック区間推定法を提案する。ベイジアンディープラーニングによる認識的不確実性と、観測されない交絡要因を考慮する因果感度分析を統合することで、不確実性が高まるにつれて区間が広がる頑健なCATE区間を生成し、医療などハイリスク分野における安全な個別化意思決定を可能にする。

ABSTRACT

We study the problem of learning conditional average treatment effects (CATE) from high-dimensional, observational data with unobserved confounders. Unobserved confounders introduce ignorance -- a level of unidentifiability -- about an individual's response to treatment by inducing bias in CATE estimates. We present a new parametric interval estimator suited for high-dimensional data, that estimates a range of possible CATE values when given a predefined bound on the level of hidden confounding. Further, previous interval estimators do not account for ignorance about the CATE associated with samples that may be underrepresented in the original study, or samples that violate the overlap assumption. Our interval estimator also incorporates model uncertainty so that practitioners can be made aware of out-of-distribution data. We prove that our estimator converges to tight bounds on CATE when there may be unobserved confounding, and assess it using semi-synthetic, high-dimensional datasets.

研究の動機と目的

• 観察データにおける未観測の交絡要因による同定不能なバイアスが生じる個人水準の因果効果推定の課題に対処すること。
• 類似性の不足、重複性の欠如、隠れ交絡要因の3つの無知の源を、CATE推定のための1つの定量的測度に統合すること。
• モデル誤指定、データスパarsity、未観測の交絡要因に起因する不確実性を反映するCATEの区間推定を提供する手法を開発すること。
• CATE推定が極めて不確実な場合に、意思決定の延期を可能にすることで、医療などハイリスク分野での安全性を高めること。
• 感度分析によって形式化された、さまざまなレベルの隠れ交絡要因下でも推定器が有効かつタイトなまま保たれることを保証すること。

提案手法

• モンテカルロドロップアウトとモデルアンサンブルを用いたベイジアンディープラーニングにより、データスパarsityと重複性の欠如に起因する認識的不確実性をCATE予測の不確実性として推定する。
• 因果感度分析から導出された、隠れ交絡要因の強さに対する事前に定義された上限を組み込んだパラメトリック区間推定法を適用する。
• 混合密度ネットワーク（MDN）を用いて結果分布をモデル化し、非定常な不確実性を捉え、マルチモーダルな結果予測を可能にする。
• 別個のニューラルネットワークを用いてベルヌーイ尤度で傾向スコアを推定し、処置割り当ての不確実性を定量化する。
• ネットワーク重みのモンテカルロサンプリングを通じて、結果モデルと処置モデルの両方の不確実性を統合し、頑健なCATE区間を生成する。
• スペクトル正規化とドロップアウトを用いて、高次元設定下での訓練の安定化と不確実性のキャリブレーションの向上を図る。

実験結果

リサーチクエスチョン

• RQ1 未観測の交絡要因が推定にバイアスをもたらす状況下で、個人水準のCATE推定における無知をどのように定量化できるか。
• RQ2 ベイジアンディープラーニングと因果感度分析を併用することで、データスパarsity、重複性の欠如、隠れ交絡要因に起因する不確実性をどの程度効果的に捉えることができるか。
• RQ3 提案された区間推定法は、隠れ交絡要因のレベルが上昇するに従って、タイトで有効なCATEの境界を生成できるか。
• RQ4 従来のCATE推定法が未観測の交絡要因のため失敗する高次元で準シミュレーションされたデータセット（HC-MNIST および IHDP）において、本手法はどのように性能を発揮するか。
• RQ5 分布外または高リスクの状況において、無知区間は点推定と比較して意思決定の安全性をどのように向上させるか。

主な発見

• 理論的に証明されたように、隠れ交絡要因のレベルが事前に定義された範囲内にある場合、提案された区間推定法は有効かつタイトなCATEの境界を生成する。
• ベイジアンディープラーニングモデルにおける認識的不確実性を通じて、類似性の不足や重複性の欠如に起因する無知を効果的に捉えている。
• データポイントが重複性の仮定に違反する、またはトレーニングマニフォールドの外にある場合、無知区間は適切に広がり、注意を喚起する。
• 高次元準シミュレーションデータセット（HC-MNIST および IHDP に隠れ交絡要因を導入）において、本推定法はカバレッジと不確実性のキャリブレーションの両面でベースライン手法を上回る性能を示した。
• アンサンブルモデルとモンテカルロサンプリングの活用により、安定した不確実性推定が可能であり、サンプル数が増加するに従い収束が確認された。
• 不確実性が高い場合に推薦を延期できるため、本手法は特に分布外または交絡要因が強い領域において安全な意思決定を可能にする。