[論文レビュー] On the Construction of the Inclusion Boundary Neighbourhood for Markov Equivalence Classes of Bayesian Network Structures

Vincent Auvray, Louis Wehenkel|Open Repository and Bibliography (University of Liège)|Dec 12, 2012

Bayesian Modeling and Causal Inference参考文献 6被引用数 17

ひとこと要約

本稿は、本質的グラフ上で定義された包含境界近傍を用いて、ベイジアンネットワーク構造のマルコフ同値クラスの学習のための新しい探索空間を提案する。この空間が連結であること、およびスコアの段階的評価が可能であることを示しており、理論的裏付けを持ち、完全にグラフィカルな手法として同値クラスを効率的に探索可能であるが、複雑なグラフでは近傍のサイズが扱いにくくなる可能性がある。

ABSTRACT

The problem of learning Markov equivalence classes of Bayesian network structures may be solved by searching for the maximum of a scoring metric in a space of these classes. This paper deals with the definition and analysis of one such search space. We use a theoretically motivated neighbourhood, the inclusion boundary, and represent equivalence classes by essential graphs. We show that this search space is connected and that the score of the neighbours can be evaluated incrementally. We devise a practical way of building this neighbourhood for an essential graph that is purely graphical and does not explicitely refer to the underlying independences. We find that its size can be intractable, depending on the complexity of the essential graph of the equivalence class. The emphasis is put on the potential use of this space with greedy hill -climbing search

研究の動機と目的

• ベイジアンネットワーク構造のマルコフ同値クラスのための理論的裏付けのある探索空間を開発すること。
• 包含境界近傍を定義・分析し、同値クラスを効率的にナビゲートする手段としての役割を明らかにすること。
• 探索中に局所的更新を用いることで、スコアの評価を段階的に実行可能にすること。
• 条件付き独立性の明示的参照なしに、完全にグラフィカルな手法で近傍を構築すること。
• グラフの複雑さの変化に応じたスケーラビリティと実用的妥当性を評価すること。

提案手法

• マルコフ同値クラスを表現するために本質的グラフを用いて探索空間を定義する。
• 包含境界近傍を、マルコフ同値性を保つ単一のエッジ追加または削除によって異なる同値クラスの集合として形式的に定義する。
• 条件付き独立性の記述を直接操作することなく、本質的グラフから直接近傍を構築するためのグラフィカルなアルゴリズムを考案する。
• 隣接する同値クラスのスコアを局所的更新を用いて段階的に計算することで、計算コストを低減する。
• 探索空間の連結性を証明し、任意の同値クラスが近傍移動の列によって他の任意の同値クラスに到達可能であることを保証する。
• グリーディーな勾配上昇探索の文脈で手法を評価し、実用的応用の可能性を強調する。

実験結果

リサーチクエスチョン

• RQ1 包含境界近傍を、マルコフ同値クラス全体にわたって連結性を保証する形で定義可能か？
• RQ2 完全な再評価なしに、隣接する同値クラスのスコアを段階的に計算可能か？
• RQ3 条件付き独立性のテストに依存せずに、完全にグラフィカルな手法で近傍を構築可能か？
• RQ4 包含境界近傍のサイズは、本質的グラフの複雑さに伴いどのようにスケーリングするか？
• RQ5 この近傍を、ベイジアンネットワーク構造学習におけるグリーディーな勾配上昇探索に実用的に適用可能か？

主な発見

• 包含境界近傍は、マルコフ同値クラス上に連結な探索空間を定義し、任意の出発点からグローバルに到達可能であることを保証する。
• 隣接する同値クラスのスコアは段階的に評価可能であり、移動ごとの計算コストを顕著に低減する。
• 条件付き独立性の明示的参照なしに、本質的グラフ上で直接操作可能な完全にグラフィカルな構築手法が開発された。
• 包含境界近傍のサイズは、特に密度が高く複雑な本質的グラフでは扱いにくくなる可能性がある。
• 提案された探索空間は、構造学習におけるグリーディーな勾配上昇アルゴリズムとの統合に適している。
• 近傍の理論的基盤は、ベイジアンネットワーク構造探索の正確なおよびヒューリスティックな探索手法への応用を支持する。