[論文レビュー] Towards Optimal Learning of Chain Graphs

Jose M. Peña|arXiv (Cornell University)|Sep 25, 2011

Bayesian Modeling and Causal Inference被引用数 1

ひとこと要約

本稿は、ベイジアンネットワークからチェーングラフへMeekの予想を拡張し、別のチェーングラフGが誘導する独立性モデルの独立性マップであるチェーングラフHが存在する場合、Gをエッジ追加および妥当な分割・統合の系列を通じてHに変換できることを証明している。主な貢献は、データからチェーングラフを効率的かつ漸近的に正しく学習可能である、構成的アルゴリズム（Method G2H）の提示である。

ABSTRACT

In this paper, we extend Meek's conjecture (Meek 1997) from directed and acyclic graphs to chain graphs, and prove that the extended conjecture is true. Specifically, we prove that if a chain graph H is an independence map of the independence model induced by another chain graph G, then (i) G can be transformed into H by a sequence of directed and undirected edge additions and feasible splits and mergings, and (ii) after each operation in the sequence H remains an independence map of the independence model induced by G. Our result has the same important consequence for learning chain graphs from data as the proof of Meek's conjecture in (Chickering 2002) had for learning Bayesian networks from data: It makes it possible to develop efficient and asymptotically correct learning algorithms under mild assumptions.

研究の動機と目的

• 方向性非巡回グラフ（DAGs）に対して元々提示されたMeekの予想を、より広範なチェーングラフ（CGs）のクラスへ拡張すること。
• 観測データからのチェーングラフの学習の理論的基盤を確立し、独立性マップが有効な操作を通じて互いに変換可能であることを証明すること。
• 任意のチェーングラフGが、Gが誘導するモデルの独立性マップである別のチェーングラフHである場合に、GをHに変換する構成的アルゴリズム（Method G2H）を提供すること。
• 各変換ステップで独立性マップの性質が保持されることを保証し、効率的かつ漸近的に正しい学習アルゴリズムの設計を可能にすること。

提案手法

• HがI(G)の独立性マップである場合、Gを有向および無向エッジの追加、および妥当な分割・統合の系列を通じてHに変換できることを証明することで、Meekの予想をチェーングラフへ拡張する。
• GをHと整合するチェーンαに関して、I(G)の最小独立性マップGαに変換する構成的アルゴリズムであるMethod G2Hを導入する。この変換はエッジ追加および妥当な分割・統合を用いる。
• Hと整合するチェーンαを用いて変換プロセスをガイドし、ターゲットグラフHとの構造的一致性を保証する。
• グラフ操作の系列に関する帰納的証明を用い、各操作の後で現在のグラフが有効なCGであり、I(H) ⊆ I(G)が常に成立することを証明する。
• 各ステップで分離文の保存（I(G) ⊆ I(Gt)）に依存することで、変換中も独立性マップの性質が維持されることを保証する。
• Method G2Hの最終ステップ（線3）でHのエッジをGαに追加することで、GがHに正確に変換され、I(H) ⊆ I(G)が各操作後に保持されることを証明する。

実験結果

リサーチクエスチョン

• RQ1 Meekの予想は、DAGsからチェーングラフへ拡張可能であり、有効な操作を通じて一つの独立性マップを別のものに変換可能か？
• RQ2 HがI(G)の独立性マップである場合に、エッジ追加および妥当な分割・統合の系列を通じて、チェーングラフGを別のチェーングラフHに変換する構成的シーケンスが存在するか？
• RQ3 変換シーケンスの各操作が、HがI(G)の独立性マップのまま保たれる性質を維持するか？
• RQ4 このような変換シーケンスを用いて、チェーングラフのための効率的かつ漸近的に正しい学習アルゴリズムを構築可能か？

主な発見

• チェーングラフに対する拡張されたMeekの予想は真であることが証明された：HがI(G)の独立性マップである場合、Gはエッジ追加および妥当な分割・統合の系列を通じてHに変換可能である。
• 変換シーケンスの各操作が、HがI(G)の独立性マップのまま保たれることを保証し、I(H) ⊆ I(G)が常に成立する。
• 提案されたMethod G2Hアルゴリズムは、そのようなシーケンスを構成し、各ステップでチェーングラフの構造と独立性マップの性質を維持する。
• GからGα（チェーンαに関してI(G)の最小独立性マップ）への変換は、エッジ追加および妥当な分割・統合を通じて実現され、各ステップでI(Gα) ⊆ I(G)が保持される。
• HのエッジをGαに追加する最終ステップにより、得られるグラフは正確にHとなり、各操作後にI(H) ⊆ I(G)が成立する。
• この結果により、弱い仮定の下で効率的かつ漸近的に正しいチェーングラフの学習アルゴリズムの開発が可能となり、ベイジアンネットワークにおけるChickeringの証明が与えた影響を模倣する。