[論文レビュー] Towards Completely Lifted Search-based Probabilistic Inference

David Poole, Fahiem Bacchus+1 more|arXiv (Cornell University)|Jul 20, 2011

Bayesian Modeling and Causal Inference参考文献 13被引用数 21

ひとこと要約

本稿では、2つの主要なケースにおいて完全に持ち上げられた推論（すなわち、接地をまったく行わない）を達成する、検索ベースの確率的推論フレームワークを提示する。1つ目は、推論が集団サイズに対して多項式時間である場合、2つ目は引数が0個または1個のパラメータ化された確率的変数（PRVs）である場合である。前者では、集団サイズの対数に比例する多項式時間での推論が示され、後者では集団サイズに比例する多項式時間での推論が示され、これらの状況では接地が本質的に必要ではないことを証明している。

ABSTRACT

The promise of lifted probabilistic inference is to carry out probabilistic inference in a relational probabilistic model without needing to reason about each individual separately (grounding out the representation) by treating the undistinguished individuals as a block. Current exact methods still need to ground out in some cases, typically because the representation of the intermediate results is not closed under the lifted operations. We set out to answer the question as to whether there is some fundamental reason why lifted algorithms would need to ground out undifferentiated individuals. We have two main results: (1) We completely characterize the cases where grounding is polynomial in a population size, and show how we can do lifted inference in time polynomial in the logarithm of the population size for these cases. (2) For the case of no-argument and single-argument parametrized random variables where the grounding is not polynomial in a population size, we present lifted inference which is polynomial in the population size whereas grounding is exponential. Neither of these cases requires reasoning separately about the individuals that are not explicitly mentioned.

研究の動機と目的

• 関係確率的モデルにおける未区別な個体を接地せざるを得ない根本的な理由があるかどうかを調査すること。
• 特に、引数が0個または1個のパラメータ化された確率的変数（PRVs）に対して、すべてのケースで接地を伴わずに正確な持ち上げられた推論が達成可能かどうかを特定すること。
• 接地が集団サイズに対して多項式時間であるケースを同定し、その場合に推論が集団サイズの対数に比例する多項式時間で実行可能であることを示すこと。
• 指数的接地を伴う条件付きクエリを正しく処理しつつ、接地を回避する検索ベースの推論アルゴリズムを開発すること。
• 接地を回避可能な主要な構造的ケースを同定・解消することで、完全に持ち上げられた推論の基盤を提供すること。

提案手法

• 変数消去が中間表現の複雑さに悩まされるのを避けるために、条件付き推論（例えば、再帰的条件付き）に基づく検索ベースの推論アプローチを用いる。
• 中間結果としてパラメータ化された確率的変数の要因（parfactor）表現を採用し、各パラメータ化要因は関連する個数と確率を有する。
• 与えられた割り当て状況下でのパラメータ化要因の寄与を計算する文脈ベースの評価メカニズム（eval_parfactor）を導入し、共通の性質を持つ個体の数え上げを含む。
• 制約付きの分割と統合を用いてパラメータ化変数を管理し、個体のブロック全体に対して接地せずに推論可能にする。
• 評価段階で組合せ的数え上げを用いて、各値に割り当てられた個体の数の分布をモデル化することで、多値PRVsに対してもフレームワークを拡張する。
• 変数名を標準化し、使用されない変数を和集合で消去することで、接地を伴わず、持ち上げられた構造を維持するキャッシュおよび忘れ去り操作を実装する。

実験結果

リサーチクエスチョン

• RQ1 関係確率的モデルにおいて未区別な個体を接地せざるを得ない根本的な理由があるのか？
• RQ2 接地が集団サイズに対して多項式時間である場合に、集団サイズの対数に比例する多項式時間で推論が可能か？
• RQ3 引数が0個または1個のパラメータ化された確率的変数に対して、接地が指数的である場合でも、集団サイズに比例する多項式時間で正確な推論が可能か？
• RQ4 検索ベースの推論手法は、条件付きクエリや複雑な依存関係を正しく処理しつつ、完全な持ち上げ（接地なし）を維持できるか？
• RQ5 変数消去型手法が持ち上げに失敗する一方で、検索ベース手法が成功するような構造的条件は存在するか？

主な発見

• 接地が集団サイズに対して多項式時間であるケースでは、本稿では集団サイズの対数に比例する多項式時間での推論が可能であることが示され、顕著な効率向上が達成された。
• 引数が0個または1個のパラメータ化された確率的変数に対して、提案手法は集団サイズに比例する多項式時間で推論を実行するが、接地は依然として指数的であるため、明確な利点が示された。
• 0および1引数のPRVsを含むすべてのテストケースで、アルゴリズムは接地を完全に回避した。これは、これらの状況では接地が必須のステップではないことを証明している。
• 評価関数に組合せ的数え上げを統合することで、フレームワークは多値PRVsへと一般化可能であり、各値に割り当てられた個体の数の分布をモデル化できる。
• 文脈ベースの数え上げと標準化された変数管理を用いることで、個体のインスタンスを再計算したり接地したりする必要がなくなり、正しさと完全な持ち上げを維持した。
• 本稿は、引数が2個以上のPRVsについては未解決の問題のまま残っていると結論づける。一部の複雑なケースではまだ完全な持ち上げが困難であるが、フレームワークはそれに対処するためのツールを提供している。