[論文レビュー] General-Purpose MCMC Inference over Relational Structures

Brian Milch, Stuart Russell|arXiv (Cornell University)|Jun 27, 2012

Data Quality and Management参考文献 23被引用数 55

ひとこと要約

本稿では、部分的ワールド表現と文脈特異的ベイズネットワークを用いて、一般用途のMCMC推論フレームワークを提示する。これにより、応用に依存しない効率的で確率的推論が可能になる。部分的ワールドにおけるMCMCが特定の条件下で正しい結果をもたらすことを示し、キャシオンマッチングタスクにおいて、応用特化型システムと同等の性能を達成している。

ABSTRACT

Tasks such as record linkage and multi-target tracking, which involve reconstructing the set of objects that underlie some observed data, are particularly challenging for probabilistic inference. Recent work has achieved efficient and accurate inference on such problems using Markov chain Monte Carlo (MCMC) techniques with customized proposal distributions. Currently, implementing such a system requires coding MCMC state representations and acceptance probability calculations that are specific to a particular application. An alternative approach, which we pursue in this paper, is to use a general-purpose probabilistic modeling language (such as BLOG) and a generic Metropolis-Hastings MCMC algorithm that supports user-supplied proposal distributions. Our algorithm gains flexibility by using MCMC states that are only partial descriptions of possible worlds; we provide conditions under which MCMC over partial worlds yields correct answers to queries. We also show how to use a context-specific Bayes net to identify the factors in the acceptance probability that need to be computed for a given proposed move. Experimental results on a citation matching task show that our general-purpose MCMC engine compares favorably with an application-specific system.

研究の動機と目的

• レコードリンクやマルチターゲットトラッキングなどの複雑な関係的タスクにおける効率的確率的推論の課題に対処すること。
• カスタム状態表現と受容計算を必要とする、応用特化型MCMC実装の限界を克服すること。
• 汎用メトロポリス・ハスティングスアルゴリズムを用いてモデリングと推論を分離することで、一般用途の推論を可能にすること。
• 部分的ワールド状態を用いる際の推論の正しさを保証するため、有効性の十分条件を同定すること。
• 文脈特異的ベイズネットワークを用いて、各提案移動における受容確率における関連要因のみを特定することで、計算効率を向上させること。

提案手法

• MCMCの状態を、可能なワールドの部分的記述として表現することで、状態空間の複雑さを低減する。
• 部分的ワールドにおけるMCMCが、クエリの正しい事後分布推定をもたらす条件を定義する。
• 文脈特異的ベイズネットワークを用いて、各提案移動における受容確率に必要な要因のみを特定する。
• 柔軟なモデル定義を可能にするために、一般用途の確率的モデリング言語（例：BLOG）内にフレームワークを統合する。
• ユーザーが提供する提案分布を用いた汎用メトロポリス・ハスティングスアルゴリズムを適用することで、広範な適用可能性を実現する。
• 関係的モデルにおける条件付き独立構造を活用し、受容率評価時の重複計算を回避する。

実験結果

リサーチクエスチョン

• RQ1 関係的確率的モデルにおけるクエリの事後分布推定に、部分的ワールドにおけるMCMC推論が正しい結果をもたらすことは可能か？
• RQ2 受容率の評価において、関連する要因のみを計算することで、MCMC推論の計算効率をどのように向上させられるか？
• RQ3 一般用途のMCMCエンジンは、実世界のタスクにおいて、応用特化型システムとどの程度の性能を達成できるか？
• RQ4 可能なワールドの部分的構成のみを表す状態を用いる場合、MCMCサンプリングの正しさを保証する条件は何か？
• RQ5 文脈特異的ベイズネットワークを用いて、関係的構造におけるMCMCの受容確率計算を最適化する方法は何か？

主な発見

• 特定の条件下で、部分的ワールドにおけるMCMC推論は有効であり、クエリの正しい事後分布推定を保証する。
• 文脈特異的ベイズネットワークの使用により、受容率評価における計算が必要な要因の数が減少し、効率が向上する。
• 一般用途のMCMCエンジンは、キャシオンマッチングタスクにおいて、応用特化型システムと同等の性能を達成した。
• フレームワークにより、各新しい応用に対して状態表現や受容論理のカスタム実装を必要とせずに、スケーラブルな推論が可能になる。
• 選択的要因評価により、計算オーバーヘッドを著しく削減しながらも、正しさを維持することができる。
• 実験的結果により、一般用途システムが正確かつ効率的であることが確認され、実世界の関係的推論タスクにおける実用的妥当性が示された。