[論文レビュー] Learning Sparse Causal Models is not NP-hard

Tom Claassen, Joris M. Mooij+1 more|arXiv (Cornell University)|Sep 26, 2013

Bayesian Modeling and Causal Inference参考文献 20被引用数 51

ひとこと要約

本稿では、ノード次数kが有界であるようなスパースな因果モデルの学習がNP困難でないことを示しており、潜在変数および選択バイアスが存在する場合でも、O(N^{2(k+2)})回の独立性検定で整合的かつ完全な因果発見が達成可能であることを示している。著者らは独立性オракルを想定した修正FCAアルゴリズムを提示し、スパースな因果発見が最小ベイジアンネットワークの学習よりも計算的により扱いやすいことを証明している。

ABSTRACT

This paper shows that causal model discovery is not an NP-hard problem, in the sense that for sparse graphs bounded by node degree k the sound and complete causal model can be obtained in worst case order N^{2(k+2)} independence tests, even when latent variables and selection bias may be present. We present a modification of the well-known FCI algorithm that implements the method for an independence oracle, and suggest improvements for sample/real-world data versions. It does not contradict any known hardness results, and does not solve an NP-hard problem: it just proves that sparse causal discovery is perhaps more complicated, but not as hard as learning minimal Bayesian networks.

研究の動機と目的

• スパースな因果モデルの学習が、ノード次数の上限kや潜在変数の存在といった現実的制約下でNP困難であるかどうかを調査すること。
• グラフがスパースで次数が有界である場合に、因果発見が多項式時間で達成可能かどうかを特定すること。
• これらの条件下で整合的かつ完全な因果発見を可能にするように修正されたFCAアルゴリズムを開発すること。
• 最小ベイジアンネットワークの学習といった関連問題と比較して、因果発見の計算複雑性を明確にすること。

提案手法

• 著者らは、ノード次数kが有界であるという仮定の下で、整合的かつ完全な因果発見を可能にする独立性オラクルを想定した修正FCAアルゴリズムを導入している。
• この手法は、条件付き独立性検定の体系的探索に依存しており、必要な検定回数はO(N^{2(k+2)})で上限が定められている。
• 標準的なFCAのスケルトン発見および方向付けルールを拡張することで、潜在的交絡要因および選択バイアスに対処している。
• kによって定まる有界な深さまでの一貫したd分離のすべての可能性を網羅的にテストすることにより、完全性を保証している。
• 理論的解析により、潜在変数が存在する場合でも、Nおよびkに対して多項式時間で終了することが証明されている。
• 有限標本設定における実用的改善のための提案を含め、標本ベースのバージョンへの拡張も行われている。

実験結果

リサーチクエスチョン

• RQ1 潜在変数および選択バイアスが存在する下で、ノード次数kが有界であるスパースな因果モデルの学習はNP困難であるか？
• RQ2 このようなモデルに対して、整合的かつ完全な因果発見アルゴリズムを多項式時間で構築可能か？
• RQ3 スパースな因果発見の計算複雑性は、最小ベイジアンネットワークの学習と比較してどう異なるか？
• RQ4 次数制約下で、FCAアルゴリズムを修正して多項式時間性能を達成可能か？

主な発見

• 本稿では、ノード次数kが有界であるスパースな因果モデルの学習がNP困難でないことが証明されており、必要な独立性検定回数がO(N^{2(k+2)})で上限が定められていることから、その根拠が示されている。
• 提案されたアルゴリズムは、潜在変数および選択バイアスが存在する場合でも、多項式時間で整合的かつ完全な因果発見を達成している。
• この研究は、スパース性と次数の有界性という特定の制約下に立つため、既知のNP困難性の結果と矛盾しない。
• スパースな因果発見の計算複雑性は、最小ベイジアンネットワークの学習よりも顕著に低いことが示されている。