[論文レビュー] Factorizing Probabilistic Graphical Models Using Co-occurrence Rate

Zhemin Zhu|arXiv (Cornell University)|Aug 9, 2010

Bayesian Modeling and Causal Inference参考文献 11被引用数 2

ひとこと要約

本稿では、ベイジアンネットワーク、MRF、CRF、RMRFを特殊ケースとして含む、確率的グラフィカルモデル（PGM）の要因分解のための統一的数学的枠組みである共起率（CR）を導入する。CR-要因分解は正確な要因スコープと確率関数を提供し、要因分解をグラフ操作として可視化し、デフォルト設定が不要なTCGグラフ上で最適な要因分解を達成する。これにより、従来のMRFベースの手法を上回る。

ABSTRACT

Factorization is of fundamental importance in the area of Probabilistic Graphical Models (PGMs). In this paper, we theoretically develop a novel mathematical concept, \ extbf{C}o-occurrence \ extbf{R}ate (CR), for factorizing PGMs. CR has three obvious advantages: (1) CR provides a unified mathematical foundation for factorizing different types of PGMs. We show that Bayesian Network Factorization (BN-F), Conditional Random Field Factorization (CRF-F), Markov Random Field Factorization (MRF-F) and Refined Markov Random Field Factorization (RMRF-F) are all special cases of CR Factorization (CR-F); (2) CR has simple probability definition and clear intuitive interpretation. CR-F tells not only the scopes of the factors, but also the exact probability functions of these factors; (3) CR connects probability factorization and graph operations perfectly. The factorization process of CR-F can be visualized as applying a sequence of graph operations including partition, merge, duplicate and condition to a PGM graph. We further obtain an important result: by CR-F, on TCG graphs the scopes of factors can be exactly over maximal cliques without any default configuration. This improves the results of (R)MRF-F which need default configurations, and also indicates that (R)MRF-F, as special cases of CR-F, can not always achieve the optimal results of CR-F.

研究の動機と目的

• さまざまな種類の確率的グラフィカルモデル（PGM）の要因分解のための統一的数学的基盤を構築すること。
• マークフ・ランダムフィールド（MRF）および洗練されたMRF（RMRF）の要因分解において、デフォルト設定の必要性を排除するより一般的な枠組みを提供すること。
• 要因スコープと正確な確率関数を両方捉える、明確で直感的で確率論的根拠に基づく要因分解の定義を確立すること。
• PGMの要因分解をパーティション、マージ、複製、条件付けといった明示的なグラフ操作と結びつけること。
• CR-要因分解が、ヒューリスティックなデフォルト設定が不要なTCG（三角化合成グラフ）構造において最適な結果を達成することを示すこと。

提案手法

• PGMの種類にかかわらず要因分解を統一するための新しい数学的概念として共起率（CR）を導入する。
• グラフィカルモデル内の同時発生パターンを捉えるシンプルで解釈可能な確率的定式化により、CRを定義する。
• 要因分解プロセスを、PGMグラフ上で実行されるグラフ操作の系列（パーティション、マージ、複製、条件付け）として表現する。
• BN-F、CRF-F、MRF-F、RMRF-Fがすべてより一般的なCR-要因分解の特殊ケースであることを示す。
• TCGグラフ上で、CR-要因分解がデフォルト設定が不要な最大クリーク上での正確な要因分解を自然に生じることを導出する。
• 理論的同等性と階層関係を確立し、(R)MRF-FがCR-Fの制限付きの特殊ケースであることを証明する。

実験結果

リサーチクエスチョン

• RQ1 BN、MRF、CRFなどの多様なPGMタイプの要因分解を統一する単一の数学的枠組みが可能か？
• RQ2 CR-要因分解は各要因のスコープと正確な確率関数を両方提供し、完全な再構築を可能にするか？
• RQ3 要因分解プロセスは、パーティションやマージといった基本的なグラフ操作を通じて可視化され、理解可能か？
• RQ4 CR-要因分解は、TCGグラフ上でのMRFベースの要因分解において、デフォルト設定の必要性を排除できるか？
• RQ5 CR-要因分解は、既存の(R)MRF-要因分解手法よりも厳密に一般化され、最適性を有するか？

主な発見

• CR-要因分解は、BN-F、CRF-F、MRF-F、RMRF-Fを特殊ケースとして統一し、PGM要因分解のための単一の理論的基盤を提供する。
• CRはシンプルな確率的定義を持ち、直感的な解釈が可能であり、要因スコープとその正確な確率関数の両方を直接理解可能にする。
• 要因分解プロセスは、PGMグラフ上で実行されるグラフ操作（パーティション、マージ、複製、条件付け）の系列として可視化できる。
• TCGグラフ上では、CR-要因分解はデフォルト設定が不要な最大クリーク上での正確な要因分解を達成するが、(R)MRF-Fでは保証されない。
• (R)MRF-FがCR-Fの特殊ケースである以上、CR-Fが常に最適な結果を達成できるのに対し、(R)MRF-Fはそのような最適性を保証できないため、CR-Fは厳密に一般性と強力さに優れている。
• 理論的枠組みにより、CR-要因分解がTCG設定におけるPGM要因分解の完全かつ最適な解を提供することを証明する。