[論文レビュー] Contextual Symmetries in Probabilistic Graphical Models

Ankit Anand, Aditya Grover+2 more|arXiv (Cornell University)|Jun 30, 2016

Bayesian Modeling and Causal Inference参考文献 20被引用数 5

ひとこと要約

本稿は、特定の変数の割り当て（文脈）下でのみ成立する、確率的グラフィカルモデルにおける文脈的対称性を導入する。これは、従来の無条件対称性を一般化したものである。著者らは、文脈的対称性の検出を彩色付きグラフ同型性問題に還元することで、これらの対称性を活用するCon-MCMCと呼ばれるMCMC推論アルゴリズムを開発した。この手法は、関係的および命題的領域において、ギブスサンプリングやオービタルMCMCと比較して顕著な計算的利点を示している。

ABSTRACT

An important approach for efficient inference in probabilistic graphical models exploits symmetries among objects in the domain. Symmetric variables (states) are collapsed into meta-variables (meta-states) and inference algorithms are run over the lifted graphical model instead of the flat one. Our paper extends existing definitions of symmetry by introducing the novel notion of contextual symmetry. Two states that are not globally symmetric, can be contextually symmetric under some specific assignment to a subset of variables, referred to as the context variables. Contextual symmetry subsumes previous symmetry definitions and can rep resent a large class of symmetries not representable earlier. We show how to compute contextual symmetries by reducing it to the problem of graph isomorphism. We extend previous work on exploiting symmetries in the MCMC framework to the case of contextual symmetries. Our experiments on several domains of interest demonstrate that exploiting contextual symmetries can result in significant computational gains.

研究の動機と目的

• 従来のリフトド推論手法が無条件対称性しか活用できないという限界に対処すること。これは、文脈依存の領域では成立しない可能性がある。
• 文脈変数への特定の割り当て下でのみ発現する対称性として、文脈的対称性の形式的枠組みを提示すること。
• 問題を彩色付きグラフ同型性問題に還元することで、文脈的対称性を効率的に計算するアルゴリズムを開発すること。
• オービタルMCMCフレームワークを拡張し、文脈に依存する対称性を扱えるようにすることで、文脈に依存する対称性を持つ領域におけるより効率的なMCMCサンプリングを可能にすること。
• 多様な関係的および命題的領域における実験的評価を通じて、文脈的対称性の実用的利点を示すこと。

提案手法

• 文脈変数への割り当て（文脈）下で、グラフィカルモデルの構造と確率分布を保つ状態の置換として、文脈的対称性を定義する。
• 文脈依存の制約を含むモデルの彩色付きグラフ表現を構築することで、文脈的対称性の計算を彩色付きグラフ同型性問題に還元する。
• 既存の効率的な彩色付きグラフ同型性ソルバ（例：nauty）を活用し、文脈固有のグラフの自己同型群を計算する。
• 対称な状態間を移動する提案を可能にするCon-MCMCと呼ばれるMCMCサンプラーを設計する。これにより混合時間の短縮が達成される。
• サンプリング中に各文脈ごとに動的に対称性を計算することで、MCMCプロセスに文脈的対称性検出を統合する。
• Con-MCMCのリファレンスコードベースを実装・公開し、再現可能性と広範な採用を促進する。

実験結果

リサーチクエスチョン

• RQ1 確率的グラフィカルモデルにおける対称性は、変数への割り当てに条件づけられ、無条件対称性を超えて定義可能か？
• RQ2 実用的な文脈的対称性はどのように効率的に計算可能か？また、どのような計算還元が可能か？
• RQ3 文脈的対称性は、一般的なMCMC推論フレームワーク内で活用可能か？その結果、混合時間と収束速度が向上するか？
• RQ4 性能とスケーラビリティの観点から、既存の対称性ベースの推論手法と比較して、文脈的対称性はどのように差をつけるか？
• RQ5 文脈的対称性が自然に発生し、計算的利点が顕著に現れる分野（関係的または命題的）はどのようなものか？

主な発見

• 文脈的対称性は、特定の文脈下でのみ発現するため、従来の対称性定義（例えば、軌道的対称性）を一般化・包含する。
• 文脈的対称性の計算は、彩色付きグラフ同型性問題に還元され、既存のソルバを用いた効率的な検出を可能にする。
• 実験では、Con-MCMCはギブスサンプリングおよびオービタルMCMCの両方を混合時間と収束速度の点で上回った。
• 関係的および命題的モデルにおける実験では、文脈依存の対称性を持つ領域で顕著な計算的利点が得られた。
• フレームワークは頑健である：実験では、証拠がある場合を含め、Con-MCMCはギブスサンプリングより悪化したことはなかったが、理論的には病理的ケースは存在しうる。
• Con-MCMCのオープンソース公開により、研究者が実世界の推論タスクに文脈的対称性を応用するための実用的ツールが提供された。