[論文レビュー] Active Invariant Causal Prediction: Experiment Selection through Stability

Juan L. Gamella, Christina Heinze‐Deml|arXiv (Cornell University)|Jun 10, 2020

Machine Learning and Algorithms参考文献 39被引用数 5

ひとこと要約

本稿では、構造的因果モデルにおける応答変数の直接原因を効率的に同定するために、介入安定性を活用する新しい実験選択フレームワーク、アクティブ不変因果予測（A-ICP）を提案する。介入が安定集合（環境間で条件付き分布が不変である変数の部分集合）に与える影響を特徴づけることで、因果親を素早く明らかにする情報豊富な介入を選択し、不変因果予測（ICP）の誤差制御を維持する。

ABSTRACT

A fundamental difficulty of causal learning is that causal models can generally not be fully identified based on observational data only. Interventional data, that is, data originating from different experimental environments, improves identifiability. However, the improvement depends critically on the target and nature of the interventions carried out in each experiment. Since in real applications experiments tend to be costly, there is a need to perform the right interventions such that as few as possible are required. In this work we propose a new active learning (i.e. experiment selection) framework (A-ICP) based on Invariant Causal Prediction (ICP) (Peters et al., 2016). For general structural causal models, we characterize the effect of interventions on so-called stable sets, a notion introduced by (Pfister et al., 2019). We leverage these results to propose several intervention selection policies for A-ICP which quickly reveal the direct causes of a response variable in the causal graph while maintaining the error control inherent in ICP. Empirically, we analyze the performance of the proposed policies in both population and finite-regime experiments.

研究の動機と目的

• 観測データのみでは不十分な因果モデルにおいて、応答変数の直接原因を同定する課題に対処すること。
• 因果発見における高コストな介入の数を、最も情報の豊富な実験を戦略的に選択することで削減すること。
• 真の因果構造への収束を加速させつつ、不変因果予測（ICP）の統計的誤差制御を維持すること。
• 介入が介入安定集合に与える影響を形式化し、安定性特性に基づいた選択方針を導出すること。

提案手法

• 介入安定集合（環境間で応答分布の不変性を保つ変数の部分集合）に与える介入の影響に基づいて、介入を選択するフレームワーク A-ICP を提案する。
• 親、子、従属変数に対する介入が集合安定性に与える影響を、d-分離およびグラフ理論的推論を用いて理論的に特徴づける。
• 真の直接原因を特定する可能性を高めるために、不安定な集合を排除する介入を優先する介入選択方針を導出する。
• 変数 j が安定集合に現れる頻度 rE(j) を、j が応答変数の祖先である可能性の代理として用い、rE(j) ≥ 1/2 であれば祖先の可能性があるとみなす。
• 不変因果予測（ICP）の原則を適用：環境間で Y|XS の不変性を保つ集合 S は、妥当な因果予測子である。
• 母集団および有限標本の両設定で方策を経験的に評価し、最小限の介入で真の直接原因を同定する性能をベースライン戦略と比較する。

実験結果

リサーチクエスチョン

• RQ1 ICP の文脈において、異なる種類の変数（親、子、従属）に対する介入が、集合の安定性にどのように影響するか？
• RQ2 安定性特性から導出可能な、必要な介入数を最小限に抑える選択方針は何か？
• RQ3 介入安定集合を用いて、統計的誤差制御を維持したまま、応答変数の直接原因を信頼性高く同定できるか？
• RQ4 変数 j が安定集合に現れる頻度 rE(j) と、因果グラフにおける j の位置（例：Y の祖先）との関係は何か？
• RQ5 有限標本設定において、A-ICP の方策はベースライン戦略と比較して、どのように経験的に性能を発揮するか？

主な発見

• Lemma 1 により、集合が介入安定であるためには、Y の直接親に対する介入が必要であることが示された。
• Lemma 2 により、Y の直接介入を受けた子の従属変数を含む任意の集合は不安定である。
• Lemma 3 により、空集合が介入安定であるのは、Y の祖先が介入されていない場合に限る。
• rE(j) < 1/2 であれば、j は Y の祖先ではありえないことを示した（Proposition 1 の証明）。
• Proposition 2 により、すべての介入安定集合は ICP において妥当な因果予測子であることが確立され、メソドロジーの妥当性が保証された。
• 経験的結果では、A-ICP の方策が、ベースライン戦略よりも少ない介入で真の直接原因に素早く収束し、母集団および有限標本の両設定で ICP の誤差制御を維持した。