[論文レビュー] Order-independent constraint-based causal structure learning

Diego Colombo, Marloes H. Maathuis|arXiv (Cornell University)|Jan 1, 2014

Bayesian Modeling and Causal Inference参考文献 30被引用数 466

ひとこと要約

本稿では、PC、FCI、RFCI などの制約ベースの因果構造学習アルゴリズムに、従来、入力変数の順序に依存して結果が変動する問題を解消する順序に依存しない修正手法を提案する。特に高次元設定において深刻な問題となるが、統計的整合性を保ちつつ、順序依存性を排除した高次元対応の安定的かつ一貫性のある手法を提案し、シミュレーションおよびユーラス・ゲノムデータの実験で、性能と安定性の向上を示した。

ABSTRACT

We consider constraint-based methods for causal structure learning, such as the PC-, FCI-, RFCI- and CCD- algorithms (Spirtes et al., 1993, 2000; Richardson, 1996; Colombo et al., 2012; Claassen et al., 2013). The first step of all these algorithms consists of the adjacency search of the PC-algorithm. The PC-algorithm is known to be order-dependent, in the sense that the output can depend on the order in which the variables are given. This order-dependence is a minor issue in low-dimensional settings. We show, however, that it can be very pronounced in high-dimensional settings, where it can lead to highly variable results. We propose several modifications of the PC-algorithm (and hence also of the other algorithms) that remove part or all of this order-dependence. All proposed modifications are consistent in high-dimensional settings under the same conditions as their original counterparts. We compare the PC-, FCI-, and RFCI-algorithms and their modifications in simulation studies and on a yeast gene expression data set. We show that our modifications yield similar performance in low-dimensional settings and improved performance in high-dimensional settings. All software is implemented in the R-package pcalg.

研究の動機と目的

• PC、FCI、RFCI、CCD などの制約ベースの因果構造学習アルゴリズムにおける順序依存性の問題を解決する。これらは、変数の入力順序に応じて一貫性のない結果を生じる可能性がある。
• 高次元設定において、順序依存性が顕著に悪化し、因果グラフが著しく変動し信頼性が低下することを特定する。
• 元の手法と同等の条件下で統計的整合性を維持しつつ、PCアルゴリズムおよびその拡張に対する順序依存性を低減または排除する修正を考案する。
• 共通のアルゴリズム的構成要素を活用することで、FCI、RFCI、CCD などの他の制約ベースのアルゴリズムに対しても同様の修正を適用可能であることを保証する。
• 包括的なシミュレーションスタディおよびユーラス遺伝子発現データセットへの実世界応用を通じて、改善効果を検証する。

提案手法

• PCアルゴリズムの隣接探索フェーズを、条件付き独立性検定に基づく一貫性のある変数順序戦略を導入することで、順序に依存しないものに変更する。
• スケルトン発見フェーズ中に適応的に変更される動的変数順序機構を導入し、入力順序に関係なく同一のスケルトンが回復されることを保証する。
• 元のPCアルゴリズムの条件付き独立性検定フレームワークを保持するが、v構造と条件付き独立性クエリの処理順序を再構成する。
• 同じ原則を応用することで、FCIおよびRFCIアルゴリズムのスケルトンおよび方向付けフェーズに対しても、順序に依存しないアプローチを拡張する。
• 元の手法と同等の仮定（忠実性、スパースな条件付き独立構造など）の下で、高次元設定においてもすべての修正が統計的整合性を保つことを保証する。
• すべての提案手法をRパッケージ pcalg に実装し、研究コミュニティにおける再現可能性と広範な利用を可能にする。

実験結果

リサーチクエスチョン

• RQ1 高次元設定において、変数の順序がPC、FCI、RFCI などの制約ベースの因果構造学習アルゴリズムの出力に及ぼす影響はどの程度か？
• RQ2 PCアルゴリズムに対して、高次元データにおいて統計的整合性を維持しつつ、順序依存性を排除できる修正を設計できるか？
• RQ3 シミュレーションスタディにおいて、PC、FCI、RFCI の順序に依存しないバージョンは、元の手法と比べて精度と安定性の面でどの程度優れているか？
• RQ4 提案手法は、遺伝子発現データセットのような実世界の高次元データにおいて、性能向上をもたらすか？
• RQ5 FCI や RFCI などの複数の制約ベースのアルゴリズムに一般化可能な、同じ順序に依存しない原則を適用できるか？

主な発見

• 提案された順序に依存しない修正により、高次元設定において、元のPCアルゴリズムが入力変数の順序に極めて敏感であった結果のばらつきが顕著に低減された。
• 低次元設定では、修正済みアルゴリズムが元のPC、FCI、RFCI と同等の性能を達成しており、精度の損失がないことが示された。
• ユーラス遺伝子発現データセットでは、順序に依存しないバージョンが、元の手法よりもより安定的かつ生物学的に妥当な因果構造を生成した。
• シミュレーションスタディにより、修正済みアルゴリズムが、元の手法と同等の条件下で高次元領域においても統計的整合性を維持することが確認された。
• 修正はFCIおよびRFCIに対しても成功裏に拡張され、複数の制約ベースの因果発見フレームワークにおいて順序に依存しない性質を実現できることを示した。
• すべての実装はRパッケージ pcalg に収録されており、実証的研究における広範な採用と再現可能性を可能にしている。