[論文レビュー] Observational-Interventional Priors for Dose-Response Learning

Ricardo Silva|arXiv (Cornell University)|May 5, 2016

Gaussian Processes and Bayesian Inference参考文献 19被引用数 3

ひとこと要約

本稿では、観測データと介入データを統合することで、非パラメトリックな投与量-反応曲線推定を改善する階層的ガウス過程事前分布を提案する。観測データを用いて事前分布を学習し、スパarsな介入データからの非パラメトリックなアフィン変換でそれを精緻化することで、学習を加速させ、精度を向上させた。合成実験では、未熟児の治療に関するデータ上で、平均正規化絶対誤差を0.06–0.08低減した。

ABSTRACT

Controlled interventions provide the most direct source of information for learning causal effects. In particular, a dose-response curve can be learned by varying the treatment level and observing the corresponding outcomes. However, interventions can be expensive and time-consuming. Observational data, where the treatment is not controlled by a known mechanism, is sometimes available. Under some strong assumptions, observational data allows for the estimation of dose-response curves. Estimating such curves nonparametrically is hard: sample sizes for controlled interventions may be small, while in the observational case a large number of measured confounders may need to be marginalized. In this paper, we introduce a hierarchical Gaussian process prior that constructs a distribution over the dose-response curve by learning from observational data, and reshapes the distribution with a nonparametric affine transform learned from controlled interventions. This function composition from different sources is shown to speed-up learning, which we demonstrate with a thorough sensitivity analysis and an application to modeling the effect of therapy on cognitive skills of premature infants.

研究の動機と目的

• 介入データが限られ、収集に費用がかかる状況において、投与量-反応曲線を学習する課題に対処すること。
• 限られた介入データと観測データを組み合わせることで、因果効果の非パラメトリック推定を改善すること。
• 両方のデータソースを活用しながら、モデル誤指定に対してロバストである、原理的で階層的な事前分布を開発すること。
• 未熟児治療に関する実世界データ（治療レベルが無作為化されていなかった）を用いて、手法の性能を実証すること。

提案手法

• 本手法は、観測データから得られる投与量-反応曲線の基本分布を学習する階層的ガウス過程事前分布を採用する。
• スパarsな介入データを用いて、非パラメトリックなアフィン変換を適用することで、事前分布を再設計し、少数の介入サンプルで効率的な精緻化を可能にする。
• 変換は、平方指数共分散関数を用いたガウス過程によって学習され、滑らかさと柔軟性を保証する。
• 介入平均応答の推定にはバックドア補正を用い、$ f(x) = \mathbb{E}[Y \mid do(X=x)] $ を測定済みの交絡要因 $ \mathbf{Z} $ に対して周辺化することで実現する。
• モデルは、交絡要因 $ \mathbf{Z} $ がバックドア基準を満たすものと仮定して、観測データと介入データを統合した同時尤度に基づいて学習される。
• 感度分析と実際の未熟児研究から得た合成介入データの生成を用いて、手法の評価が行われた。

実験結果

リサーチクエスチョン

• RQ1 介入データが限られている状況で、観測データを効果的に活用して投与量-反応曲線の推定を改善できるか？
• RQ2 階層的事前分布を用いて観測データと介入データを統合することは、単独でいずれかのデータソースを使用する場合と比べて、推定精度にどのように寄与するか？
• RQ3 交絡要因が完全に測定されていない、またはバックドア基準が満たされていない場合に、この手法はモデル誤指定に対してどの程度ロバストか？
• RQ4 標準的なガウス過程回帰（介入データのみ）と比較して、この手法は推定誤差をどの程度低減するか？
• RQ5 実世界データにおける母体の教育水準などの共変量のサブグループにおいて、この手法はどの程度の性能を示すか？

主な発見

• 10個の介入サンプル/治療レベルを用いた場合、高校卒業、大学卒業、および統合された母体教育水準のサブグループにおいて、平均正規化絶対誤差がそれぞれ0.06、0.07、0.08低減された。
• それぞれのサブグループにおいて、82%、89%、91%の実験で、本手法は純粋な介入データに基づくガウス過程回帰を上回った。
• 感度分析を通じて、収束速度の向上とモデル誤指定に対するロバストネスが示された。
• 合成介入データに対して、本手法の事後平均曲線は、純粋に介入データのみを用いた標準的なGP回帰よりも良好なフィットを示した。
• 実際の乳児発達データから生成された合成データにおいて、非線形な投与量-反応関係を効果的に捉えた。母体教育水準のサブグループ間で、異なる範囲を示すことも可能であった。
• 交絡要因が完全に考慮されていなくても、本手法は強固な性能を維持した。これは、測定されていないフィードバック効果が存在する状況でも実用的である可能性を示唆している。