[論文レビュー] Counterfactual Mean Embeddings

Krikamol Muandet, Motonobu Kanagawa+2 more|arXiv (Cornell University)|May 22, 2018

Advanced Causal Inference Techniques参考文献 84被引用数 5

ひとこと要約

本稿では、再帰的核ヒルバート空間（RKHS）を用いて反事実的結果分布をモデル化する非パラメトリックなヒルバート空間表現として、反事実的平均埋め込み（CME）を導入する。潜在的結果分布をRKHSに埋め込むことで、パラメトリックな仮定を必要とせず、無共変性のもとで最適な収束速度を達成する分布的因果推論が可能となり、画像や系列データのような複雑なデータへの応用も可能である。

ABSTRACT

Counterfactual inference has become a ubiquitous tool in online advertisement, recommendation systems, medical diagnosis, and econometrics. Accurate modeling of outcome distributions associated with different interventions -- known as counterfactual distributions -- is crucial for the success of these applications. In this work, we propose to model counterfactual distributions using a novel Hilbert space representation called counterfactual mean embedding (CME). The CME embeds the associated counterfactual distribution into a reproducing kernel Hilbert space (RKHS) endowed with a positive definite kernel, which allows us to perform causal inference over the entire landscape of the counterfactual distribution. Based on this representation, we propose a distributional treatment effect (DTE) that can quantify the causal effect over entire outcome distributions. Our approach is nonparametric as the CME can be estimated under the unconfoundedness assumption from observational data without requiring any parametric assumption about the underlying distributions. We also establish a rate of convergence of the proposed estimator which depends on the smoothness of the conditional mean and the Radon-Nikodym derivative of the underlying marginal distributions. Furthermore, our framework allows for more complex outcomes such as images, sequences, and graphs. Our experimental results on synthetic data and off-policy evaluation tasks demonstrate the advantages of the proposed estimator.

研究の動機と目的

• 結果分布の高次モーメントの変化を捉えられない平均処置効果（ATE）推定器の限界を解消すること。
• 結果分布の平均だけでなく、全体の反事実的結果分布をモデル化することで、分布的因果推論を可能にすること。
• 潜在的分布に関するパラメトリックな仮定を必要としない、反事実的推論の非パラメトリック枠組みの構築。
• 無共変性のもとで、条件付き平均およびRadon-Nikodym微分の滑らかさに依存する、提案された推定量の理論的収束速度の確立。
• 画像、系列、グラフなどの複雑な結果タイプへの因果推論を、RKHSにおけるカーネルベースの表現によって拡張すること。

提案手法

• 反事実的分布を再帰的核ヒルバート空間（RKHS）における平均埋め込みとして表現することで、結果分布全体の非パラメトリックなモデリングを可能にする。
• カーネルトリックを用いて、反事実的介入下での特徴写像の条件付き期待値として反事実的平均埋め込み（CME）を定義する。
• 無共変性仮定の下で、RKHSにおける正則化付き逆確率重量化を用いて、観測データからCMEを推定する。
• 結果分布全体にわたる因果効果を測定する分布的処置効果（DTE）の測度を提案する。
• RKHSにおける条件付き期待値の推定に伴う逆問題を安定化させるために、スペクトル分解と正則化（Tikhonov型）を用いる。
• 推定誤差と近似誤差のバランスを取ることで、CME推定量の収束速度を導出する。収束速度は、条件付き平均およびRadon-Nikodym微分の滑らかさに依存する。

実験結果

リサーチクエスチョン

• RQ1 パラメトリックな形を仮定せずに、結果分布全体を非パラメトリックにモデル化できるか？
• RQ2 観測データを用いて、結果分布全体にわたる分布的処置効果（DTE）をどのように推定できるか？
• RQ3 無共変性のもとで、提案されたCME推定量の理論的収束速度は何か？
• RQ4 本フレームワークは、画像、系列、グラフなどの複雑で構造的な結果に対応できるか？
• RQ5 CME推定量は、高次モーメントの分布シフトを捉える点で、従来のATEベースの手法と比べてどのように優れるか？

主な発見

• 提案された反事実的平均埋め込み（CME）は、再帰的核ヒルバート空間（RKHS）における結果分布の非パラメトリックでカーネルベースの表現を提供する。
• CME推定量の収束速度は $ O(n^{-b}) $ であり、$ b = 1/(1 + \beta + \max(1 - \alpha, \alpha)) $ に依存し、条件付き平均およびRadon-Nikodym微分の滑らかさに依存する。
• 本フレームワークは、結果分布の平均だけでなく、全体にわたる因果推論を可能にする分布的処置効果（DTE）推定をサポートする。
• カーネル埋め込みのRKHSにおける柔軟性のおかげで、画像、系列、グラフなどの複雑なデータタイプへの適用が可能である。
• 合成データおよびオフポリシー評価タスクにおける実験結果から、CME推定量は分布シフトを捉える点で、ATEベースのベースラインを上回ることが示された。
• 理論的分析により、近似誤差が $ O(\varepsilon_n^{\alpha + \beta}) $ で減少し、正則化パラメータ $ \varepsilon_n = n^{-b} $ の調整によって推定誤差がバランスが取られることを示した。