[論文レビュー] Bayesian Inference of Graphical Model Structures Using Trees

Loïc Schwaller, Stéphane Robin+1 more|arXiv (Cornell University)|Apr 10, 2015

Bayesian Modeling and Causal Inference参考文献 24被引用数 9

ひとこと要約

本稿では、探索空間をスパニングツリーに制限することにより、ベイズ的手法を用いて無向グラフィカルモデル構造を学習する手法を提案する。これにより、マトリックスツリー定理を用いてエッジの事後確率を正確に計算可能となる。この仮定が単純化されているにもかかわらず、合成データおよびフローサイトメトリー・データにおいても、正確な構造回復が達成された。

ABSTRACT

We propose to learn the structure of an undirected graphical model by computing exact posterior probabilities for local structures in a Bayesian framework. This task would be untractable without any restriction on the considered graphs. We limit our exploration to the spanning trees and define priors on tree structures and parameters that allow fast and exact computation of the posterior probability for an edge to belong to the random tree thanks to an algebraic result called the Matrix-Tree theorem. We show that the assumption we have made does not prevent our approach to perform well on synthetic and flow cytometry data.

研究の動機と目的

• 正確なベイズ推論のもとで、無向グラフィカルモデル構造を学習するための実行可能（tractable）な手法を開発すること。
• 候補グラフをスパニングツリーに制限することで、構造学習における計算の非効率性を克服すること。
• ツリー構造およびパラメータに共役事前分布を定義し、エッジの包含確率について高速かつ正確な事後分布計算を可能にすること。
• ツリー制限が実データおよび合成データにおける性能に与える影響を評価すること。

提案手法

• マトリックスツリー定理を活用し、確率的スパニングツリーにおけるエッジの正確な事後確率を計算する。
• ツリー構造に非情報的事前分布、モデルパラメータに共役事前分布を定義し、解析的計算を可能にする。
• ベイズ枠組みを用いて、特定のエッジがランダムなツリーに属する周辺事後確率を計算する。
• エッジの包含確率が高いものから選択することで構造学習を実行する。
• 正確な推論を計算可能にするために、探索空間をスパニングツリーに制限する。
• 性能評価のため、合成データおよび実際のフローサイトメトリー・データの両方へこの手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 スパニングツリーに制限することで、グラフィカルモデル構造に対する正確なベイズ推論を計算的に実行可能にすることができるか？
• RQ2 現実世界のデータにおいて、ツリー構造モデルは真のグラフィカル構造をどれほどよく近似するか？
• RQ3 マトリックスツリー定理の使用が、この文脈におけるエッジ事後確率の効率的かつ正確な計算を可能にするか？
• RQ4 既知の構造を持つ合成データにおいて、この手法の性能はいかがなものか？
• RQ5 フローサイトメトリーのような高次元の生物学的データにおいて、この手法はどの程度の性能を示すか？

主な発見

• マトリックスツリー定理を用いることで、エッジの事後確率を正確に計算可能となり、構造学習が実行可能となった。
• ツリー制限が、既知のグラフィカル構造を持つ合成データにおいても、良好な性能を発揮することを示した。
• フローサイトメトリー・データにおいても、正確な構造回復が達成されたことから、現実の複雑さに対しても頑健であることが示された。
• 共役事前分布の使用により、数値近似を必要とせず解析的計算が可能となった。
• ベイズ枠組みにより、事後確率を通じてエッジ包含の不確実性が一貫して推定された。
• 正確なベイズ推論と組み合わせることで、ツリー構造モデルが無向グラフィカルモデル学習において有効であることが示された。