[論文レビュー] Learning Inclusion-Optimal Chordal Graphs

Vincent Auvray, Louis Wehenkel|arXiv (Cornell University)|Jun 13, 2012

Bayesian Modeling and Causal Inference参考文献 10被引用数 5

ひとこと要約

本稿では、弦的構造における包含境界近傍を用いて、データから包含最適な弦的グラフを学習する貪欲な勾配上昇アルゴリズムを提案する。大標本サイズおよび適切なスコア基準のもとで、真の分布が無向グラフに対してマークフィットである場合、この手法は漸近的に依存モデルを正確に表現する弦的グラフを同定する。

ABSTRACT

Chordal graphs can be used to encode dependency models that are representable by both directed acyclic and undirected graphs. This paper discusses a very simple and efficient algorithm to learn the chordal structure of a probabilistic model from data. The algorithm is a greedy hill-climbing search algorithm that uses the inclusion boundary neighborhood over chordal graphs. In the limit of a large sample size and under appropriate hypotheses on the scoring criterion, we prove that the algorithm will find a structure that is inclusion-optimal when the dependency model of the data-generating distribution can be represented exactly by an undirected graph. The algorithm is evaluated on simulated datasets.

研究の動機と目的

• 確率的依存モデルを表現する効率的な弦的グラフ構造学習アルゴリズムの開発。
• 有向非巡回グラフおよび無向グラフの両方で表現可能な依存構造を学習する課題への対処。
• データ生成分布が無向グラフに対してマークフィットである場合、学習された構造が包含最適であることを保証すること。
• 現実的な標本条件のもとで、シミュレーテッドデータセット上でのアルゴリズムの性能評価。

提案手法

• 弦的グラフの空間における貪欲な勾配上昇探索戦略を用いる。
• 弦性を保ちながら局所的な構造的変更を探索するため、包含境界近傍を採用する。
• 各ステップで候補となるグラフを評価するスコア基準を適用し、スコアが高い構造を優先する。
• 大標本サイズ下でのスコア基準の漸近的一貫性に依存し、収束を保証する。
• エッジの追加／削除に構造的制約を課すことにより、探索中も弦性を維持する。
• 構造学習を誘導するため、スコア関数を通じて条件付き独立性検定を暗黙的に利用する。

実験結果

リサーチクエスチョン

• RQ1 弦的グラフ上での貪欲な勾配上昇アルゴリズムは、依存モデルに対して包含最適な構造を学習できるか？
• RQ2 どのような条件下で、このアルゴリズムは真の依存構造を正確に表現する弦的グラフに収束するか？
• RQ3 真のモデルが無向グラフに対してマークフィットである場合、シミュレーテッドデータ上でのアルゴリズムの性能はいかがなっているか？
• RQ4 包含境界近傍は、弦性を損なわずに弦的グラフ空間を効果的に探索できるか？
• RQ5 スコア基準の標準的仮定のもとで、このアルゴリズムは漸近的に最適性に到達するか？

主な発見

• データ生成分布が無向グラフに対してマークフィットである場合、このアルゴリズムは包含最適な弦的グラフに漸近的に収束する。
• 大標本サイズおよび適切なスコア基準のもとで、この手法はすべての弦的グラフの中で包含の意味で最適な構造を同定する。
• 良好に構造化された近傍空間上の貪欲な探索のおかげで、アルゴリズムは効率的かつスケーラブルである。
• シミュレーテッドデータセット上での実験的評価により、理想状態のもとで真の依存構造を回復できることを確認した。
• 包含境界近傍の使用により、探索されたすべてのグラフが弦的であることが保証され、構造的整合性が維持された。
• 本手法は、ベイジアンネットワークとマルコフネットワークの両方で表現可能な依存モデルを学習する実用的解決策を提供する。