[論文レビュー] Learning and Testing Causal Models with Interventions

Jayadev Acharya, Arnab Bhattacharyya+2 more|arXiv (Cornell University)|May 24, 2018

Bayesian Modeling and Causal Inference参考文献 50被引用数 12

ひとこと要約

本稿では、介入を用いて因果ベイジアンネットワーク（CBN）のテストおよび学習を行うための効率的アルゴリズムを提示する。未知のCBNが既知のモデルと著しく異なるかどうかを全変動距離で区別するには、O(log n)回の介入と、1回の介入あたりÕ(n/ε²)回のサンプルで十分である。主な貢献は、有界なインデグリーレベルと混同成分をもつCBNの非適応的かつサンプル・介入効率の良い学習およびテストを可能にする、二乗ヘルンギング距離の新しい部分加法性不等式の確立である。

ABSTRACT

We consider testing and learning problems on causal Bayesian networks as defined by Pearl (Pearl, 2009). Given a causal Bayesian network $\mathcal{M}$ on a graph with $n$ discrete variables and bounded in-degree and bounded `confounded components', we show that $O(\log n)$ interventions on an unknown causal Bayesian network $\mathcal{X}$ on the same graph, and $ ilde{O}(n/ε^2)$ samples per intervention, suffice to efficiently distinguish whether $\mathcal{X}=\mathcal{M}$ or whether there exists some intervention under which $\mathcal{X}$ and $\mathcal{M}$ are farther than $ε$ in total variation distance. We also obtain sample/time/intervention efficient algorithms for: (i) testing the identity of two unknown causal Bayesian networks on the same graph; and (ii) learning a causal Bayesian network on a given graph. Although our algorithms are non-adaptive, we show that adaptivity does not help in general: $Ω(\log n)$ interventions are necessary for testing the identity of two unknown causal Bayesian networks on the same graph, even adaptively. Our algorithms are enabled by a new subadditivity inequality for the squared Hellinger distance between two causal Bayesian networks.

研究の動機と目的

• 観測データと介入データの両方が利用可能な状況において、因果ベイジアンネットワーク（CBN）のテストおよび学習のための効率的アルゴリズムを開発すること。
• 観測されていない変数が複数の観測変数に影響を与えることによって生じる偽の関連性を引き起こす、隠れた交絡要因の存在に起因する課題に対処すること。
• 有界なインデグリーレベルと混同成分をもつCBNの同一性テストおよび学習に必要な介入回数のタイトな境界を確立すること、特に交絡成分が存在する場合でも同様に有効であること。
• 適応的戦略が介入複雑度を改善しないことを示し、一般条件下で同一性テストに対してΩ(log n)の下界を確立すること。

提案手法

• 2つのCBN間の二乗ヘルンギング距離に対して、新しい部分加法性不等式を提案し、これにより効率的な統計的テストと学習が可能になる。
• 非適応的アルゴリズムを設計し、O(log n)回の介入と、1回の介入あたりÕ(n/ε²)回のサンプルを用いて、未知のCBNが全変動距離でε-遠くにある既知のモデルと一致するかをテストする。
• プログラム表現の簡略化を目的とした再帰的還元フレームワークを用い、従属集合還元、Y-R還元、R削除を適用して最適化値の上限を求める。
• 再帰的最適化議論を適用して、制約付き最適化プログラムの最適値に対する下界を導出し、重要な不等式 Opt(P_{r,p}) ≥ (1 - |Σ|^L γ)^p を得る。
• 有界なインデグリーレベルと有界な混同成分をもつCBNの構造的性質を活用して、スケーラビリティと効率性を保証する。
• 適応的戦略でさえも介入複雑度を改善しないことを証明し、同一性テストに対してΩ(log n)の下界を確立する。

実験結果

リサーチクエスチョン

• RQ1 少ない数の介入とサンプルで、未知の因果ベイジアンネットワークが既知のモデルにε-近いかどうかをテストできるか？
• RQ2 特に交絡成分が存在する場合に、CBNの学習やテストに必要な最小の介入回数は何か？
• RQ3 適応的戦略が因果モデルのテストに必要な介入回数を削減する上で、明示的な利点をもたらすか？
• RQ4 CBNにおけるヘルンギング距離に一般の部分加法性性質を確立できるか？これにより効率的な統計的推論が可能になる。
• RQ5 同じグラフ上に存在する2つの未知のCBNを区別するために、必要な介入回数の根本的限界は何か？

主な発見

• O(log n)回の介入と、1回の介入あたりÕ(n/ε²)回のサンプルで、未知のCBNが全変動距離でε-遠くにある既知のモデルと一致するかをテストすることが可能である。
• 提案されたアルゴリズムは非適応的であり、適応的戦略であっても介入複雑度が向上しない。同一性テストにはΩ(log n)回の介入が必要であることが示された。
• CBN間の二乗ヘルンギング距離に対する新しい部分加法性不等式が確立され、これがアルゴリズムの効率性と理論的分析の中心的役割を果たす。
• 同じ介入およびサンプル複雑度を用いて、有界なインデグリーレベルと有界な混同成分をもつグラフ上のCBNの効率的学習が達成できる。
• 同じグラフ上に存在する2つの未知のCBNの同一性テストに対しても、O(log n)回の介入とÕ(n/ε²)回のサンプル複雑度が適用可能であり、介入回数に対して一致するΩ(log n)の下界が存在する。
• 分析は、最適値の上限を求める再帰的プログラム還元フレームワークに依拠しており、これにより重要な不等式 Opt(P_{r,p}) ≥ (1 - |Σ|^L γ)^p が導出される。