[論文レビュー] Gaussian Covariance faithful Markov Trees

Dhafer Malouche, Bala Rajaratnam|ArXiv.org|Dec 14, 2009

Bayesian Modeling and Causal Inference参考文献 6被引用数 3

ひとこと要約

本稿は、部分的相関係数が非ゼロであることを示すことで、木構造の共分散グラフを持つ多次元正規分布が、そのグラフに対して必然的に忠実であることを、部分グラフにおけるパスに基づく条件付き独立性解析を活用する新規手法を用いて証明する。この手法は、濃度グラフモデルで用いられる従来の手法とは異なり、臨界パスに沿った非ゼロ部分相関係数の存在を示すことで忠実性を確立する。

ABSTRACT

A covariance graph is an undirected graph associated with a multivariate probability distribution of a given random vector where each vertex represents each of the different components of the random vector and where the absence of an edge between any pair of variables implies marginal independence between these two variables. Covariance graph models have recently received much attention in the literature and constitute a sub-family of graphical models. Though they are conceptually simple to understand, they are considerably more difficult to analyze. Under some suitable assumption on the probability distribution, covariance graph models can also be used to represent more complex conditional independence relationships between subsets of variables. When the covariance graph captures or reflects all the conditional independence statements present in the probability distribution the latter is said to be faithful to its covariance graph - though no such prior guarantee exists. Despite the increasingly widespread use of these two types of graphical models, to date no deep probabilistic analysis of this class of models, in terms of the faithfulness assumption, is available. Such an analysis is crucial in understanding the ability of the graph, a discrete object, to fully capture the salient features of the probability distribution it aims to describe. In this paper we demonstrate that multivariate Gaussian distributions that have trees as covariance graphs are necessarily faithful. The method of proof is original as it uses an entirely new approach and in the process yields a technique that is novel to the field of graphical models.

研究の動機と目的

• 共分散グラフが木構造である場合に、多次元正規分布がそのグラフに対して忠実であることを確立すること。
• そのようなモデルが急速に普及しているにもかかわらず、共分散グラフモデルにおける忠実性の深い確率論的分析が不足しているという問題に取り組むこと。
• 濃度グラフモデルで用いられる既存の手法とは根本的に異なる、自己完結的な忠実性証明の新規手法を開発すること。

提案手法

• 証明は、木構造における特定の頂点集合によって誘導される部分ベクトルの逆共分散行列を分析する新規な技術に基づく。
• 集合 A と B の間の臨界パスを特定し、それらが分離集合 S = V\(A∪B∪S) と交差することを保証することで、パスの連結性を確保する。
• 共分散行列の部分行列を用いた行列式に基づく公式を用いて、部分相関係数 k_{u'v'|S} を計算する。
• パス構造と木の無閉路性のおかげで、公式内の式が非ゼロであることを示すことにより、k_{u'v'|S} ≠ 0 を証明する。
• 誘導部分グラフ {u',v'} ∪ S が対応する部分ベクトルの有効な共分散グラフであるという事実に依存しており、条件付き依存の正確な計算が可能になる。
• 背理法を用いる：条件付き独立性の仮定が k_{u'v'|S} = 0 を意味するが、これは木構造のもとでは不可能であることが示される。

実験結果

リサーチクエスチョン

• RQ1 共分散グラフが木構造である多次元正規分布は、常にそのグラフに対して忠実であるか？
• RQ2 濃度グラフモデルで用いられる手法とは根本的に異なる、自己完結的な新手法を用いて、共分散グラフモデルにおける忠実性を証明できるか？
• RQ3 共分散グラフ内に木構造がある場合、すべての条件付き独立関係がグラフに符号化されていると保証できるか？
• RQ4 交差性またはグローバル・マークフ・性質に依存せずに、忠実性の性質を確立できるか？
• RQ5 パス構造は、ガウス型グラフィカルモデルにおける非ゼロ部分相関係数を決定づける役割を果たすか？

主な発見

• 共分散グラフが木構造であるすべての多次元正規分布は、そのグラフに対して忠実であり、つまりグラフが分布内のすべての条件付き独立関係を符号化している。
• 忠実性の結果は、誘導部分グラフにおけるパスベースの行列式公式を用いた新規な手法によって証明される。
• この手法は、任意の3頂点（パスを含む）の誘導部分グラフが、対応する部分ベクトルの有効な共分散グラフであるという事実に依存している。
• A と B を S を通るパスが接続する場合、部分相関係数 k_{u'v'|S} が非ゼロであることを証明し、条件付き独立性の仮定を矛盾させる。
• この結果は、濃度グラフモデルとは対照的であり、条件付き分布における部分グラフ構造の保存が保たれないため、同様の手法は適用できない。
• このアプローチは、濃度グラフモデルで用いられる従来の手法とは根本的に異なり、他のグラフィカルモデルクラスにおける忠実性分析の新たな道筋を拓く。