[論文レビュー] Reasoning about Independence in Probabilistic Models of Relational Data

Marc Maier, Katerina Marazopoulou+1 more|arXiv (Cornell University)|Feb 18, 2013

Bayesian Modeling and Causal Inference参考文献 61被引用数 23

ひとこと要約

本稿では、データインスタンス間に依存関係が生じるため従来のd-分離が失敗する確率的関係モデルにおいて、条件付き独立性を導出するための健全かつ完全な図的基準である関係的d-分離を導入する。本稿では、抽象的グラウンドグラフと呼ばれる上昇的表現を提案し、これにより誤った独立性判断を標準的なd-分離のナイーブな適用と比較して最大50％まで低減する、効率的かつ正確なd-分離クエリを可能にする。

ABSTRACT

We extend the theory of d-separation to cases in which data instances are not independent and identically distributed. We show that applying the rules of d-separation directly to the structure of probabilistic models of relational data inaccurately infers conditional independence. We introduce relational d-separation, a theory for deriving conditional independence facts from relational models. We provide a new representation, the abstract ground graph, that enables a sound, complete, and computationally efficient method for answering d-separation queries about relational models, and we present empirical results that demonstrate effectiveness.

研究の動機と目的

• データインスタンスがi.i.d.でない関係モデルにおいて従来のd-分離が失敗する問題に対処し、誤った条件付き独立性判断を回避すること。
• エンティティおよび関係の間の依存関係を扱えるようにd-分離を拡張することで、関係モデルにおける条件付き独立性を形式化すること。
• 関係構造における条件付き独立性に関する効率的かつ健全な推論を可能にする、上昇的表現としての抽象的グラウンドグラフを開発すること。
• 関係的d-分離およびその基盤となる抽象化メカニズムの健全性と完全性を証明すること。
• 実験的に本手法の有効性を検証し、標準的なd-分離を直接適用する方法と比較して顕著な改善が得られることを示すこと。

提案手法

• 関係モデルにおける条件付き独立性のための図的基準として関係的d-分離を提案し、従来のd-分離のルールを関係構造を考慮するように拡張する。
• 抽象的グラウンドグラフを導入する。これは、関係モデルのすべての可能なグラウンドインスタンスを捉えるが、インスタンス固有の詳細を抽象化したコンactな上昇的表現である。
• 関係的d-分離の意味論を従来のd-分離と整合させる。これにより、すべてのモデルインスタンスにおいて独立性の主張が成り立つことを保証する。
• 抽象的グラウンドグラフを用いたd-分離クエリへの回答アルゴリズムを開発し、健全性と完全性を保証する。
• サイズの回帰モデルにおいて、抽象的グラウンドグラフのサイズを予測するため、ロジスティック線形回帰とラッソ特徴選択を用いる。
• 実験的評価において、予測子の有意性とモデルの適合度を評価するために、標準化係数と偏相関係数を用いる。

実験結果

リサーチクエスチョン

• RQ1 インスタンス間に依存関係がある関係モデルにおいて、標準的なd-分離は条件付き独立性を正しく推論できるか？
• RQ2 確率的関係モデルにおける条件付き独立性のための形式的で、健全かつ完全な図的基準は何か？
• RQ3 すべてのモデルをグラウンド化せずに、上昇的表現がd-分離クエリを効率的にサポートするにはどうすればよいか？
• RQ4 抽象的グラウンドグラフのサイズに最も顕著に影響を与える要因は何か？ そして、それらは計算複雑性にどのように影響するか？
• RQ5 標準的なd-分離を関係モデル構造に直接適用する方法と比較して、関係的d-分離は精度と効率の面でどのように優れているか？

主な発見

• 関係モデル構造に対して標準的なd-分離を直接適用すると、最大50％のケースで誤った条件付き独立性判断が生じる。
• 抽象的グラウンドグラフ表現により、健全かつ完全な関係的d-分離クエリが可能となり、ノード数の回帰モデルではR²=0.818、エッジ数の回帰モデルではR²=0.789を達成した。
• 関係の数および多数の基数とエンティティ／関係の視点間の相互作用が、抽象的グラウンドグラフのサイズの最も強い予測子である。
• エンティティ数はグラフサイズと負の相関を示しており、これは大きなエンティティ集合が抽象化の複雑さを低下させる可能性を示唆している。
• 対数変換された依存関係数と関係が、エッジ数の予測において有意な予測子である。これは、モデルの密度が計算負荷に影響を与えることを示している。
• λ=0.0155およびλ=0.0095を用いたラッソ正則化により、非同値およびノード数モデルにおいて、モデル適合度を最適化しながら予測子数を最小限に抑えることができた。