[論文レビュー] Faithfulness of Probability Distributions and Graphs

Kayvan Sadeghi|arXiv (Cornell University)|Jan 29, 2017

Bayesian Modeling and Causal Inference参考文献 35被引用数 4

ひとこと要約

本稿は、混合グラフにおける一般化された順序付けの概念であるpreorderingを用いて、確率分布がグラフに忠実であるための必要十分条件を提示する。忠実性が成立するための条件は、独立性モデルが合成的グラフイド公理、シングルトン推移性、および順序付き上行性・下行性安定性を満たすことであると示され、DAG、無向、双方向グラフを含む多様なグラフタイプにおける因果探索およびグラフィカルモデル選択の基盤的枠組みを提供する。

ABSTRACT

A main question in graphical models and causal inference is whether, given a probability distribution $P$ (which is usually an underlying distribution of data), there is a graph (or graphs) to which $P$ is faithful. The main goal of this paper is to provide a theoretical answer to this problem. We work with general independence models, which contain probabilistic independence models as a special case. We exploit a generalization of ordering, called preordering, of the nodes of (mixed) graphs. This allows us to provide sufficient conditions for a given independence model to be Markov to a graph with the minimum possible number of edges, and more importantly, necessary and sufficient conditions for a given probability distribution to be faithful to a graph. We present our results for the general case of mixed graphs, but specialize the definitions and results to the better-known subclasses of undirected (concentration) and bidirected (covariance) graphs as well as directed acyclic graphs.

研究の動機と目的

• 与えられた確率分布がグラフに忠実である条件を特定する未解決問題を解決すること。
• 変数順序の概念を一般化し、多様なエッジタイプを有する混合グラフにおける忠実性の条件を可能にするpreorderingに拡張すること。
• 無向、双方向、および有向非巡回グラフ（DAG）のあらゆるタイプに普遍的に適用可能な忠実性の必要十分条件を提供すること。
• 独立性モデルと構造的制約の観点から忠実性を形式化することで、因果推論を支援すること。
• preorderingと安定性条件を用いた検証可能な条件を同定することで、構造学習アルゴリズムの効率化を図ること。

提案手法

• 混合グラフにおけるノードの順序付き上行性・下行性安定性を定義するために、preorderingと呼ばれる一般化された順序概念を導入する。
• 独立性モデルに対する基礎的制約として、合成的グラフイド公理とシングルトン推移性を適用する。
• 独立性モデルが最小エッジを有するグラフに対してマークフォーであるための必要十分条件を導出する。
• 既知のグラフタイプ（無向（濃度）、双方向（共分散）、有向非巡回グラフ（DAG））に一般結果を特化する。
• preorderingを用いて構造学習におけるエッジの方向を決定し、安定性条件を通じて忠実性を保証する。
• preorderingと安定性チェックを活用して忠実なグラフを効率的に構築する制約ベースの構造学習アルゴリズムを提案する。

実験結果

リサーチクエスチョン

• RQ1 与えられた確率分布が混合グラフに忠実である条件は何か？
• RQ2 変数順序の概念を、多様なエッジタイプを有する混合グラフにおける忠実性を可能にするようにどのように一般化できるか？
• RQ3 確率分布がグラフに忠実であるために必要な独立性モデルの性質は何か？
• RQ4 特にガウス分布および離散分布に対して、忠実性条件を実用的に効率的にテストする方法は何か？
• RQ5 preorderingと安定性制約を用いることで、構造学習アルゴリズムにおける忠実性を保証できるか？

主な発見

• 確率分布がグラフに忠実であることは、独立性モデルが合成的グラフイド公理、シングルトン推移性、および順序付き上行性・下行性安定性を満たすことと同値である。
• これらの条件は必要かつ十分であり、混合グラフ全体における忠実性の完全な理論的特徴付けを提供する。
• ガウス分布では、安定性を除く条件が自然に満たされるため、グラフィカルモデリングに適していることが示された。
• グローバルな条件付き独立性の検査に代えて、最小限のノードカットセットに注目することで、忠実性のテストを効率化できる。
• preorderingと安定性の強制を用いることで、忠実性を保証する新しい制約ベースの構造学習アルゴリズムの設計を支援するフレームワークが得られた。
• 理論は無向、双方向、および有向非巡回グラフに広く適用可能であり、それぞれのサブクラスに対して特化した結果が提供されている。