[論文レビュー] Generalized Hyper Markov laws for directed acyclic graphs

Emanuel Ben‐David, Bala Rajaratnam|arXiv (Cornell University)|Sep 20, 2011

Bayesian Modeling and Causal Inference被引用数 3

ひとこと要約

本稿では、一般化されたガウス型有向無環グラフ（DAG）モデルにおける共役事前分布であるDAG-Wishart分布を導入する。これは、任意のDAGに一般化されたハイパーマルコフ法則の拡張である。コレスキー分解のパラメータ化を活用することで、強力なハイパーマルコフ性を保ちつつ、効率的な分散共分散行列および精度行列の推定が可能となり、大規模な高次元モデルの選択と推論が可能になる。

ABSTRACT

In this paper, we consider Gaussian models Markov with respect to an arbitrary DAG. We first construct a family of conjugate priors for the Cholesky parametrization of the covariance matrix of such models. This family has as many shape parameters as the DAG has vertices, and naturally extends the work of Geiger and Heckerman [8]. From these distributions, we derive prior distributions for the covariance and precision parameters of the Gaussian DAG Markov models. Our works thus extends the work of Dawid and Lauritzen [5] and Letac and Massam [16] for Gaussian models Markov with respect to a decomposable graph to arbitrary DAGs. For this reason, we call our distributions DAG-Wishart distributions. An advantage of these distributions is that they possess strong hyper Markov properties and thus allow for explicit estimation of the covariance and precision parameters, regardless of the dimension of the problem. They also allow us to develop methodology for model selection and covariance estimation in the space of DAG-Markov models. We demonstrate via several numerical examples that the proposed method scales well to high-dimensions.

研究の動機と目的

• 分解可能でないグラフにまで拡張されたガウス型グラフィカルモデルの共役事前分布を拡張すること。
• DAG-マークフ過程の共分散行列および精度行列のための事前分布族を構築し、強力なハイパーマルコフ性を維持すること。
• モデルの次元にかかわらず、共分散および精度パラメータの明示的推定を可能にすること。
• 一貫した事前分布フレームワークを用いて、DAG-マークフ過程のモデル選択と共分散行列推定を支援すること。

提案手法

• DAGの各頂点ごとに1つの形状パラメータを持つ、共分散行列のコレスキー分解のための共役事前分布族を構築する。
• コレスキーに基づく事前分布族から、共分散行列および精度行列のための事前分布を導出する。
• 得られたDAG-Wishart分布が強力なハイパーマルコフ性を満たすことを確立し、共役性と容易な事後分布計算を保証する。
• DAGの構造を活用して、条件付き独立制約を定義し、グラフのマークフ過程に適合するように事前分布の指定をガイドする。
• 共役構造を活用して、高次元推論のための解析的後退更新および効率的なサンプリングまたは最適化を可能にする。
• 複雑な条件付き独立構造を有する高次元DAGモデルを用いた数値例を通じて、スケーラビリティを実証する。

実験結果

リサーチクエスチョン

• RQ1 分解可能でない場合を除き、任意のグラフ構造を持つガウス型DAGモデルに対して、共役事前分布をどのように構築できるか。
• RQ2 非分解可能なDAGにおける強力なハイパーマルコフ行動を保証するため、事前分布が満たすべき性質は何か。
• RQ3 高次元DAG-マークフ過程モデルにおける共分散および精度パラメータ推定を両立できる事前分布フレームワークを構築できるか。
• RQ4 このような事前分布が、高次元設定における効率的なモデル選択と事後分布計算をどの程度可能にするか。

主な発見

• 提案されたDAG-Wishart分布は、DawidとLauritzen [5] および LetacとMassam [16] の分解可能な場合の研究を、任意のDAGへと一般化したものである。
• 事前分布族は、DAGの頂点数と等しい数の形状パラメータを有しており、柔軟かつ構造的な事前分布指定が可能である。
• 分布は強力なハイパーマルコフ性を有しており、事後更新が条件付き独立制約を保ち、明示的推定が可能であることを保証する。
• 複雑なDAG構造を有する数値例を通じて、高次元問題への効果的なスケーリングが実証された。
• DAG-マークフ過程モデルにおける共分散行列および精度行列推定を、統一された共役ベイズフレームワーク内で可能にする。
• パrameter空間における一貫した事前分布を提供することで、DAG-マークフ過程モデルの空間における頑健なモデル選択が可能になる。