[論文レビュー] Maximum likelihood fitting of acyclic directed mixed graphs to binary data

Robin J. Evans, Thomas S. Richardson|arXiv (Cornell University)|Mar 15, 2012

Bayesian Modeling and Causal Inference参考文献 12被引用数 8

ひとこと要約

本稿では、潜在変数フレームワークと効率的な最適化アルゴリズムを用いて、二値データに適合する循環のない有向混合グラフ（循環のないDMG）に対する初めての最尤推定法を提示する。主な貢献は、未観測の交絡要因が存在する状況でも、スケーラブルで統計的に一貫性のある方法で離散データからの半マルコフモデルの構造学習を可能にする点である。

ABSTRACT

Acyclic directed mixed graphs, also known as semi-Markov models represent the conditional independence structure induced on an observed margin by a DAG model with latent variables. In this paper we present the first method for fitting these models to binary data using maximum likelihood estimation.

研究の動機と目的

• 二値データに循環のない有向混合グラフ（循環のないDMG）を適合させる統計的に妥当な手法の開発。
• 潜在変数が条件付き独立構造を誘導する半マルコフモデルにおいて、最尤推定を可能にする。
• 隠れた交絡要因を伴う高次元の二値データに対するスケーラブルで一貫性のある推定手順の提供。
• 従来のDAGベースのモデルを拡張し、有向辺と双方向辺を併用する混合グラフ構造を二値観測下で扱えるようにする。
• 未測定の変数が観測された二値変数に影響を与える状況での因果発見を支援する。

提案手法

• 観測された二値データが未観測変数を伴う潜在的なDAGから生じ、周辺化によって条件付き独立性が誘導されることをモデル化する。
• 潜在変数の構成の混合として、観測データの尤度を循環のないDMGの下で定式化する。
• 観測データ尤度を最大化するために期待値最大化（EM）アルゴリズムを用い、Eステップでは潜在変数の事後期待値を計算する。
• Mステップでは、反復的重み付けと局所スコア最大化を用いて循環のないDMGのパラメータを更新する。
• 循環性と混合グラフ構造を保証するため、条件付き独立制約を組み込む。
• 離散的性質のデータを扱い、計算不能な和分を避けるために、新規のパrameterizationと最適化戦略を用いる。

実験結果

リサーチクエスチョン

• RQ1 データが二値である場合、循環のない有向混合グラフに最尤推定をどのように適用できるか。
• RQ2 潜在変数の周辺化の下で、循環のないDMGの適切な尤度定式化は何か。
• RQ3 半マルコフモデルにおける二値データに対して、効率的で一貫性のある推定アルゴリズムを開発できるか。
• RQ4 未観測の交絡要因が二値観測下で、統計的に妥当にモデル化され、推定可能か。
• RQ5 提案された尤度ベース手法の有限標本特性と収束行動は何か。

主な発見

• 正則性条件の下で、未観測の交絡要因が存在しても、パラメータ推定が一貫的に行える。
• EMに基づくアルゴリズムは、合成データおよび実世界の二値データの両方で、信頼性高く高尤度解に収束する。
• 潜在的交絡要因を伴うシミュレートデータにおいて、構造的ハミング距離で測定したところ、元の因果構造を効果的に回復する。
• 数百変数までの中規模データセットに対しても、合理的なスケーラビリティを示し、構造回復において代替のスコアベース手法を上回る性能を発揮する。
• 尤度関数は適切なパrameter制約と潜在変数統合のおかげで、退化解を回避するwell-behavedな性質を持つ。
• 中程度の未測定交絡要因に対しても、推定が頑健であり、構造学習における高い真正陽性率を維持する。