[論文レビュー] Hybrid Bayesian Networks with Linear Deterministic Variables

Barry R. Cobb, Prakash P. Shenoy|arXiv (Cornell University)|Jul 4, 2012

Bayesian Modeling and Causal Inference参考文献 9被引用数 14

ひとこと要約

この論文は、連続的な親を持つ線形決定的変数を含むハイブリッドベイジアンネットワークにおける正確な推論を、連続変数が正規分布でない場合でも可能にする手法を提案する。非正規密度をトレuncated指数分布の混合により近似することで、多変量正規性を要件とせず、ネットワーク内の連続的および離散的ノードの配置に制限がない推論が可能になる。

ABSTRACT

When a hybrid Bayesian network has conditionally deterministic variables with continuous parents, the joint density function for the continuous variables does not exist. Conditional linear Gaussian distributions can handle such cases when the continuous variables have a multi-variate normal distribution and the discrete variables do not have continuous parents. In this paper, operations required for performing inference with conditionally deterministic variables in hybrid Bayesian networks are developed. These methods allow inference in networks with deterministic variables where continuous variables may be non-Gaussian, and their density functions can be approximated by mixtures of truncated exponentials. There are no constraints on the placement of continuous and discrete nodes in the network.

研究の動機と目的

• 連続的な親を持つ連続変数が条件付き決定的である場合のハイブリッドベイジアンネットワークにおける推論の課題に対処すること。
• 多変量正規性を要件とし、離散ノードに連続親を持てないという制限を課す条件付き線形ガウス（CLG）仮定を超えて既存手法を拡張すること。
• 連続変数の密度をトレuncated指数分布の混合により近似することで、非正規連続変数を扱える推論操作を開発すること。
• 連続的および離散的ノードの配置に制限がない柔軟なネットワーク構造を可能にすること。
• 連続変数の同時密度が決定論的依存性のため存在しない場合でも、線形決定的関係を有するハイブリッドネットワークにおける正確な推論を可能にすること。

提案手法

• 非正規密度を表現するために、連続変数の条件付き分布をトレuncated指数分布の混合（MTE）分布でモデル化する。
• 標準的なポテンシャルベースの推論フレームワークを拡張し、MTE近似をジョインツリー法に統合することで、決定的条件付き分布を扱えるようにする。
• 条件付き分布に関数的依存関係を明示的にモデル化することで、変数間の線形決定的関係をサポートする。
• 離散的および連続的変数（含む決定的ノード）を同時に扱えるように修正されたジョインツリー法を用いて推論を実行する。
• 離散的および連続的ポテンシャルの組み合わせを可能にし、連続的ポテンシャルをMTE混合で表現することで、正確な周辺化および条件付き確率の計算を可能にする。
• 連続変数が多変量正規分布に従う必要がないため、条件付き線形ガウス（CLG）モデルの主要な制限を緩和する。

実験結果

リサーチクエスチョン

• RQ1 連続変数の同時密度が存在しない場合でも、連続的な親を持つ線形決定的変数を含むハイブリッドベイジアンネットワークにおける正確な推論はどのように実現できるか？
• RQ2 決定的関係を有するハイブリッドベイジアンネットワークにおいて、非正規連続変数を効果的にモデル化できるか？
• RQ3 多変量正規性を要件としないで、離散的および連続的変数（含む決定的変数）を同時に扱える推論アルゴリズムは何か？
• RQ4 連続的および離散的ノードを自由に入れ替えられる柔軟なネットワーク構造を構築することは可能か？（特に連続ノードに離散親を持つ場合を含む）
• RQ5 トレuncated指数分布の混合は、ベイジアンネットワーク推論の文脈で、複雑な非正規連続分布をどのように近似できるか？

主な発見

• 提案手法は、連続変数が非正規であっても、線形決定的変数を含むハイブリッドベイジアンネットワークにおける正確な推論を可能にする。
• トレuncated指数分布の混合（MTE）を用いることで、非正規連続密度を高い精度で近似でき、多変量正規性を要件としない正確な推論が可能になる。
• このアプローチにより、条件付き線形ガウス（CLG）モデルが課す制限である「離散ノードに連続親を持てない」という制限が解除される。
• ネットワーク構造に制限がないフレームワークを提供し、連続的および離散的ノードをネットワーク全体に自由に配置できる。
• 決定論的依存性により連続変数の同時密度が存在しない場合でも、実世界のモデリングで一般的な状況を適切に処理できる。
• このアプローチにより、決定的関係と非正規連続変数を含む問題の幅広いクラスにまでハイブリッドベイジアンネットワークの適用範囲が拡張される。