[論文レビュー] Markov Properties for Graphical Models with Cycles and Latent Variables

Patrick Forré, Joris M. Mooij|arXiv (Cornell University)|Oct 24, 2017

Bayesian Modeling and Causal Inference参考文献 32被引用数 31

ひとこと要約

この論文は、潜在変数のためのマージン付きDAG（mDAG）とサイクルを含むための有向混合グラフ（DMG）を一般化する統一的グラフィカルモデル枠組み、ハイパーエッジ依存有向グラフ（HEDGes）を導入する。これにより、サイクルと観測されない交絡要因を含む確率的グラフィカルモデルが可能になる。複数のマークフ・性質（要因分解、構造方程式、σ-分離に基づくグローバルマークフ性質）を定義し、サイクルがある場合にそれらが同等でないことを示し、σ-分離がそのようなモデルにおける条件付き独立性の強固な基準であることが浮き彫りになる。

ABSTRACT

We investigate probabilistic graphical models that allow for both cycles and latent variables. For this we introduce directed graphs with hyperedges (HEDGes), generalizing and combining both marginalized directed acyclic graphs (mDAGs) that can model latent (dependent) variables, and directed mixed graphs (DMGs) that can model cycles. We define and analyse several different Markov properties that relate the graphical structure of a HEDG with a probability distribution on a corresponding product space over the set of nodes, for example factorization properties, structural equations properties, ordered/local/global Markov properties, and marginal versions of these. The various Markov properties for HEDGes are in general not equivalent to each other when cycles or hyperedges are present, in contrast with the simpler case of directed acyclic graphical (DAG) models (also known as Bayesian networks). We show how the Markov properties for HEDGes - and thus the corresponding graphical Markov models - are logically related to each other.

研究の動機と目的

• サイクルと潜在変数を同時に扱える統一的グラフィカルモデル枠組みを構築し、mDAG や DMG といった既存モデルを拡張すること。
• この新しいグラフクラスに対して、要因分解、構造方程式（SEP）、グローバル／ローカルマークフ性質（およびそのマージン版）といった複数のマークフ性質を定義・分析すること。
• マージン化やサイクルの存在下でのこれらのマークフ性質の論理的関係を確立すること。
• d-分離とm-分離を一般化し、サイクルと非線形関数関係を扱える新しいσ-分離基準を導入すること。
• 介入、マージン化、フィードバックループを一貫して扱えるwell-behavedなモジュラー構造的因果モデル（mSCMs）のクラスを定義すること。

提案手法

• mDAG と DMG の一般化として、ハイパーエッジと有向エッジを組み合わせて、潜在的交絡とサイクル的依存関係を表現するハイパーエッジ依存有向グラフ（HEDGes）を提案する。
• HEDGesにおける条件付き独立性の新しい基準としてσ-分離を導入し、サイクル的・非線形的設定へのd-分離とm-分離の一般化を実現する。
• 要因分解、構造方程式（SEP）、順序付き／ローカル／グローバルマークフ性質、およびそれらのマージン版を定義する。
• これらの性質間の論理的含意関係を確立し、σ-分離が成立する条件下で、\text{aFP} \Rightarrow \text{dGMP} \Rightarrow \text{gdGMP} \Leftarrow \text{lsSEP} が成り立つことを示す。逆の含意は追加の仮定を要する。
• 潜在変数を要約するハイパーエッジを備えたモジュラー構造的因果モデル（mSCMs）を定義し、介入とマージン化が一貫して定義可能であることを保証する。
• 先行研究からのヤコビアンに基づく解析を用いて、構造方程式がサイクル的設定でグローバルマークフ性質をどのように導くかの条件を正当化する。

実験結果

リサーチクエスチョン

• RQ1 非巡回モデルから、サイクルと潜在変数を含むグラフィカルモデルへのマークフ性質の一般化はどのように可能か？
• RQ2 サイクル的かつ非線形な構造方程式モデルに潜在的交絡要因が存在する場合、d-分離とm-分離の正しい一般化は何か？
• RQ3 サイクルが存在する場合、標準的なマークフ性質（例：要因分解、グローバルマークフ、構造方程式）は同等であるか。そうでない場合、それらの論理的依存関係は何か？
• RQ4 サイクルと潜在変数を含むモデルにおいて、介入とマージン化を一貫して定義できるフレームワークを構築できるか？
• RQ5 サイクル的モデルにおいて、構造方程式性質がグローバルマークフ性質をどのように導くかの条件は何か？

主な発見

• HEDGesにおける複数のマークフ性質（要因分解、構造方程式、グローバルマークフ性質など）は、非巡回DAGとは異なり、サイクルが存在する場合には同等ではない。
• 提案されたσ-分離基準は、d-分離とm-分離を一般化し、非線形関数と潜在的交絡要因を含むサイクル的モデルにおける条件付き独立性を正しく同定する。
• 構造方程式性質のマージン版（lsSEP）とグローバルマークフ性質（gdGMP）は論理的に関連しており、特定の条件下でgdGMPはlsSEPから導かれる。
• 論文では、祖先的要因分解性質（aFP）が有向グローバルマークフ性質（dGMP）を含み、さらにマージン化下でグローバルマークフ性質（gdGMP）を含むことが確立された。
• 介入、マージン化、フィードバックループを一貫して扱えるモジュラー構造的因果モデル（mSCMs）の新クラスが定義され、σ-分離を介して整合的な条件付き独立性が符号化されている。
• このフレームワークは、ハイパーエッジとσ-分離を用いて、潜在的交絡とサイクルの完全かつ一貫した取り扱いを可能にし、mDAG や ADMG の結果をサイクル的状況に一般化する。