[論文レビュー] Interventional Experiment Design for Causal Structure Learning

AmirEmad Ghassami, Saber Salehkaleybar+1 more|arXiv (Cornell University)|Oct 12, 2019

Bayesian Modeling and Causal Inference参考文献 45被引用数 4

ひとこと要約

本稿では、因果DAGにおける有向辺の識別数を最大化することを目的とした、非適応的介入設計フレームワークを提案する。木構造の因果グラフに対しては正確かつ近似のアルゴリズムを導入し、サブモジュラ最適化と効率的な推定器を用いて一般のDAGへと拡張し、予算制約下で高い確率で(1−1/e)-近似保証を達成する。

ABSTRACT

It is known that from purely observational data, a causal DAG is identifiable only up to its Markov equivalence class, and for many ground truth DAGs, the direction of a large portion of the edges will be remained unidentified. The golden standard for learning the causal DAG beyond Markov equivalence is to perform a sequence of interventions in the system and use the data gathered from the interventional distributions. We consider a setup in which given a budget $k$, we design $k$ interventions non-adaptively. We cast the problem of finding the best intervention target set as an optimization problem which aims to maximize the number of edges whose directions are identified due to the performed interventions. First, we consider the case that the underlying causal structure is a tree. For this case, we propose an efficient exact algorithm for the worst-case gain setup, as well as an approximate algorithm for the average gain setup. We then show that the proposed approach for the average gain setup can be extended to the case of general causal structures. In this case, besides the design of interventions, calculating the objective function is also challenging. We propose an efficient exact calculator as well as two estimators for this task. We evaluate the proposed methods using synthetic as well as real data.

研究の動機と目的

• 固定されたk回の非適応的介入の予算制約のもとで、マークフ・同値性を超える因果DAGの学習という課題に取り組む。
• 介入を通じて識別される有向辺の数を最大化し、介入ターゲット集合の最適化問題として定式化する。
• 特に木構造的および一般の因果グラフに対して、最悪ケースと平均ケースの両方の利益を効率的に得るためのアルゴリズムを開発する。
• 一般のDAGにおいて、正確な計算機と不偏かつ効率的な推定器を用いて目的関数をスケーラブルに計算する。
• サブモジュラな目的関数条件の下で、近似性能に関する理論的保証を確立する。特に、(1−1/e)-近似を高い確率で達成する。

提案手法

• 介入設計を、識別される有向辺の数を最大化する最適化問題として定式化し、各介入における利益を新たに方向付けられた辺の数として定義する。
• 木構造のグラフに対しては、最悪ケースの利益を求める正確なアルゴリズムと、平均ケースの利益を求める近似の貪欲法を提案し、目的関数のサブモジュラ性を活用する。
• 平均ケースの利益関数が単調かつサブモジュラであることを証明し、理論的近似バインディングを有する貪欲法の適用を可能にする。
• 一般のDAGへとフレームワークを拡張するために、効率的な正確な計算機と、2つの推定器（不偏かつ高速ヒューリスティック）を導入し、目的関数の計算を可能にする。
• 集中不等式と収束解析を用いて推定誤差を制限し、推定誤差が有界な条件下で、貪欲法が(1−1/e−ε)-近似を高い確率で達成することを保証する。
• サンプルされたDAGが真のグラフと同じマークフ・同値性クラスに留まるように、v構造および有向3サイクルのチェックを含むリジェクトサンプリング手順を用いる。

実験結果

リサーチクエスチョン

• RQ1 因果DAGにおける有向辺の方向の識別数を最大化するk回の非適応的介入の最適な集合は何か？
• RQ2 最悪ケースおよび平均ケースの利益基準の下で、木構造の因果グラフに対して介入設計問題をどのように効率的に解けるか？
• RQ3 平均ケースの利益関数が持つサブモジュラ構造を活用して、一般のDAGに対するスケーラブルな近似アルゴリズムを設計できるか？
• RQ4 正確な計算が計算的に高価である一般のDAGの場合、目的関数をどのように効率的に計算または推定できるか？
• RQ5 推定誤差と有限標本条件の下で、提案された貪欲な介入設計アルゴリズムに対してどのような理論的近似保証を確立できるか？

主な発見

• 提案された貪欲法アルゴリズムは、推定誤差ε′が有界な条件下で、高い確率1−δ′で最適な介入集合の(1−1/e−ε′)-近似を達成する。
• 木構造の因果グラフに対しては、最悪ケースの利益を求める正確なアルゴリズムと、平均ケースの利益を求める貪欲な近似アルゴリズムを提供し、両者ともにサブモジュラ性を活用する。
• 平均ケースの利益関数が単調かつサブモジュラであることが証明され、貪欲選択の理論的性能保証が可能になる。
• 一般のDAGにおける目的関数の計算に向け、効率的な正確な計算機と2つの推定器（不偏および高速ヒューリスティック）を提案し、不偏推定器の収束解析も提供した。
• 合成データおよび実データを用いた実験的評価により、予算制約下で多数の有向辺の方向を識別する本手法の有効性が確認された。
• 特に、観測データから部分的に同定された複雑なグラフ構造の状況において、ベースライン戦略を上回る有向辺識別性能を示した。