[論文レビュー] Graphical Models as Block-Tree Graphs

Divyanshu Vats, José M. F. Moura|arXiv (Cornell University)|Jul 4, 2010

Graph Theory and Algorithms参考文献 46被引用数 3

ひとこと要約

本稿では、グラフィカルモデルにおける効率的な推論のための新しいフレームワークとしてブロックツリー・グラフを導入する。ブロックツリー・グラフでは、結合木と異なり、ノードのクラスタが重複しない。境界値問題を初期値問題に変換し、ガウスモデルに対して線形状態空間表現を可能にすることで、スパニング・ブロックツリーを用いた近似推定がより高速に収束するようになり、グリッドおよびスモールワールド・グラフにおいて、スパニング・ツリーを上回る収束速度を達成する。

ABSTRACT

We introduce block-tree graphs as a framework for deriving efficient algorithms on graphical models. We define block-tree graphs as a tree-structured graph where each node is a cluster of nodes such that the clusters in the graph are disjoint. This differs from junction-trees, where two clusters connected by an edge always have at least one common node. When compared to junction-trees, we show that constructing block-tree graphs is faster, and finding optimal block-tree graphs has a much smaller search space. Applying our block-tree graph framework to graphical models, we show that, for some graphs, e.g., grid graphs, using block-tree graphs for inference is computationally more efficient than using junction-trees. For graphical models with boundary conditions, the block-tree graph framework transforms the boundary valued problem into an initial value problem. For Gaussian graphical models, the block-tree graph framework leads to a linear state-space representation. Since exact inference in graphical models can be computationally intractable, we propose to use spanning block-trees to derive approximate inference algorithms. Experimental results show the improved performance in using spanning block-trees versus using spanning trees for approximate estimation over Gaussian graphical models.

研究の動機と目的

• サイクルを含むグラフィカルモデルにおける正確な推論の計算的非効率性、特に高木幅グラフに対して解決する。
• 最適な木構造表現の探索空間を縮小することで、結合木のよりスケーラブルな代替手段を開発する。
• 境界値問題を初期値問題に変換することで、ガウスグラフィカルモデルに対する再帰的および状態空間表現を可能にする。
• スパニング・ブロックツリーを用いて、近似推論アルゴリズムの収束速度を向上させる。
• センサーネットワーク、画像処理、動画監視など、グラフ構造が複雑な応用分野における推定性能の向上を図る。

提案手法

• ブロックツリー・グラフを定義する。木構造のグラフであり、クラスタが互いに重複しない。ブロック幅は最大クラスタサイズを表す。
• 根クラスタを選び、反復的に隣接クラスタを同定することでブロックツリー・グラフを構築する。これにより構造が一意に決定される。
• ブロックツリー・フレームワークを用いて、グラフィカルモデルにおける境界値問題を初期値問題に変換する。
• ブロックツリー構造を活用することで、ガウスグラフィカルモデルに対する線形状態空間モデルを導出する。
• スパニング・ブロックツリーを近似推論のヒューリスティックとして提案する。重みは残差誤差の最小化を用いて反復的に更新される。
• アルゴリズム2を用いて、精度行列から導出された重み付きグラフに基づき、B幅スパニング・ブロックツリーを計算する。

実験結果

リサーチクエスチョン

• RQ1 ブロックツリー・グラフは、グラフィカルモデルの木構造表現を構築するための結合木よりも効率的な代替手段を提供できるか？
• RQ2 ブロックツリー・フレームワークは、グラフィカルモデルにおける境界値問題を初期値問題に変換する仕組みをどのように可能にするか？
• RQ3 ブロックツリー・グラフは、ガウスグラフィカルモデルに対してどの程度まで線形状態空間表現をサポートできるか？
• RQ4 スパニング・ブロックツリーを用いることで、スパニング・ツリーと比較して近似推定アルゴリズムの収束速度が向上するか？
• RQ5 ブロックツリー・フレームワークは、離散的グラフィカルモデルに対しても近似推論に有効に適用可能か？

主な発見

• スパニング・ブロックツリーは、グリッドおよびスモールワールド・グラフにおいて、スパニング・ツリーと比較してガウスグラフィカルモデルの近似推定において顕著に高速な収束を実現する。
• 50×50グリッド・グラフでは、ブロック幅3および5のスパニング・ブロックツリーを用いた推定が、スパニング・ツリーを上回る収束速度を示した（図8参照）。
• 70×70グリッド・グラフでも同様の傾向が観察され、各反復でスパニング・ブロックツリーがより低い残差誤差を達成した。
• 2つの高次数のハブ・ノードを有する15×15グリッドでは、スパニング・ブロックツリー（BT-2およびBT-3）が推定および誤差共分散の収束においてスパニング・ツリーを上回った（図9参照）。
• ブロックツリー・フレームワークにより、自然な初期値問題の定式化が可能となり、再帰的推定およびスムージング・アルゴリズムの簡素化が可能になる。
• ブロックツリー・グラフの構築は、結合木の構築よりも単純かつ高速であり、完全なグラフ知識を必要とせず、根クラスタのみを指定すれば十分である。