[論文レビュー] Latent Variable Discovery Using Dependency Patterns

Xuhui Zhang, Kevin B. Korb+2 more|arXiv (Cornell University)|Jul 22, 2016

Bayesian Modeling and Causal Inference参考文献 3被引用数 4

ひとこと要約

本論文は、ベイジアンネットワークにおける潜在変数の存在を示す兆候としての「トリガー」として知られる依存パターンを体系的に特定する手法を提案する。完全に観測されたDAGにおけるd-分離構造を包括的に分析し、単一要因の潜在変数モデルが生成する構造と比較することで、観測変数のみのモデルでは説明できない依存パターンを同定し、因果推論におけるより厳密な潜在変数同定を可能にする。

ABSTRACT

The causal discovery of Bayesian networks is an active and important research area, and it is based upon searching the space of causal models for those which can best explain a pattern of probabilistic dependencies shown in the data. However, some of those dependencies are generated by causal structures involving variables which have not been measured, i.e., latent variables. Some such patterns of dependency "reveal" themselves, in that no model based solely upon the observed variables can explain them as well as a model using a latent variable. That is what latent variable discovery is based upon. Here we did a search for finding them systematically, so that they may be applied in latent variable discovery in a more rigorous fashion.

研究の動機と目的

• 観測変数間の依存パターンを同定し、それらが完全に観測されたモデルでは説明できないが、潜在変数モデルでのみ説明可能なパターンを特定すること。
• 未測定の交絡要因を因果発見で検出する課題に対処し、潜在変数の存在を示す「トリガー」を形式化すること。
• 因果発見アルゴリズムが潜在変数を含むモデルに導くように支援する体系的でデータ前処理手法を提供すること。
• 潜在変数の説明に inherently 傾向する構造に焦点を当てることで、潜在変数同定の正確性と効率性を向上させること。

提案手法

• 3、4、5つの観測変数について、孤立ノードを除いたすべての可能な完全に観測されたDAGを列挙した。
• 各DAGについて、すべてのd-分離証拠集合を計算し、d-分離基準を用いて対応する依存行列を導出した。
• 潜在変数が2つ以上の観測変数の共通原因であるような、すべての可能な単一要因の潜在変数モデルを生成した。
• 各潜在変数モデルにおける、すべての可能な証拠集合条件下での観測変数間の依存構造を計算した。
• d-分離に基づく完全に観測されたDAGでいかなるものとも一致しない、潜在モデル由来の依存集合をトリガーとして同定した。
• 得られたトリガーを用いて、修正版PCアルゴリズム（トリガー-PC）を導出し、シミュレートデータにおける潜在構造の検出を強化した。

実験結果

リサーチクエスチョン

• RQ1 どの観測変数間の依存パターンが、完全に観測されたベイジアンネットワークでは説明できないか。これは潜在変数の存在を示唆する。
• RQ2 このような依存パターンを体系的に「トリガー」として同定する方法は何か。
• RQ3 これらのトリガーは、潜在変数の交絡要因を検出する因果発見アルゴリズムの性能を向上させることができるか。
• RQ4 トリガーの数と構造は、観測変数の数に伴いどのようにスケーリングするか。
• RQ5 修正版PCアルゴリズムにおけるトリガーの使用は、潜在変数検出において実証的にどの程度有効か。

主な発見

• 3つの観測変数の場合、トリガーは検出されなかった。潜在モデルで説明可能ないかなる依存パターンも、完全に観測されたDAGで再現可能であった。
• 4つの観測変数の場合、2つの明確に異なるトリガーが同定され、それぞれが完全に観測されたモデルでは再現不可能な一意の依存構造に対応していた。
• 5つの観測変数の場合、57個のユニークなトリガーが発見され、潜在交絡を示唆する複雑な依存パターンの著しい増加が示された。
• 5つの観測変数を含むシミュレートデータにおいて、トリガー-PCアルゴリズムは最大48%の真正陽性率で潜在構造を検出できた（10,000サンプル、中程度のアーキストレングス、変数が3状態の場合、57件中48件）。
• 標準PCアルゴリズムに比べ、トリガー-PCアルゴリズムは特に中程度および高強度のアーキスレングス条件下で顕著に優れた性能を示し、一部の設定では偽陽性がゼロであった。
• 本手法は、データサンプルサイズや変数の基数が変化しても安定した性能を示し、十分なデータが得られれば低アーキスレングスでも一貫した検出性能を維持した。