[論文レビュー] Improving Bayesian Network Structure Learning in the Presence of Measurement Error

Yang Liu, Anthony C. Constantinou+1 more|arXiv (Cornell University)|Nov 19, 2020

Bayesian Modeling and Causal Inference参考文献 23被引用数 8

ひとこと要約

本稿では、測定誤差によって引き起こされるベイジアンネットワーク構造学習における誤検出エッジ（偽陽性エッジ）を除去するスコアベース補正アルゴリズム、Spurious Edge Detection（SED）を提案する。EMアルゴリズムとBICスコアを用いて偽陽性エッジを検出し、 pruning することで、合成測定誤差を含む複数のデータセットにおいて、4つの既存の構造学習アルゴリズムのグラフィカルスコアが向上する。

ABSTRACT

Structure learning algorithms that learn the graph of a Bayesian network from observational data often do so by assuming the data correctly reflect the true distribution of the variables. However, this assumption does not hold in the presence of measurement error, which can lead to spurious edges. This is one of the reasons why the synthetic performance of these algorithms often overestimates real-world performance. This paper describes an algorithm that can be added as an additional learning phase at the end of any structure learning algorithm, and serves as a correction learning phase that removes potential false positive edges. The results show that the proposed correction algorithm successfully improves the graphical score of four well-established structure learning algorithms spanning different classes of learning in the presence of measurement error.

研究の動機と目的

• 観測データにおける測定誤差が、ベイジアンネットワーク構造学習に偽陽性エッジを引き起こす問題に対処すること。
• ノイズの多い変数によって導入される偽陽性エッジを補正することで、構造学習アルゴリズムの信頼性を向上させること。
• 既存の任意の構造学習アルゴリズムと互換性を持つ、後処理による補正フェーズを構築すること。
• 測定誤差の異なるレベルにおいて、補正手法の有効性を多様な学習アルゴリズムで評価すること。
• 測定誤差が存在する状況において、提案手法がグラフィカルスコアのパフォーマンスを向上させることで、合成データと現実世界の性能のギャップを埋めること。

提案手法

• 各ノイズのある変数が、観測不能な誤差なしの親変数の子であると仮定して測定誤差をモデル化する。
• 不完全でノイズの多いデータから、隠れた変数（誤差なしのバージョン）を含むベイジアンネットワークのパラメータをEMアルゴリズムで推定する。
• EMアルゴリズムの収束した対数尤度を用いて、隠れた変数を考慮した再構築されたグラフのBICスコアを計算する。
• スコアに基づくプルーニング戦略を適用：誤差なしの親構造を含むモデルにおいてBICスコアを低下させるエッジを削除する。
• 補正フェーズを、任意の構造学習アルゴリズムの出力に対して作用する後処理ステップとして扱う。
• CPDAGに対しては、マルコフ同値クラスから代表的なDAGをサンプリングし、そのBICスコアを計算して全体の構造を評価する。

実験結果

リサーチクエスチョン

• RQ1 測定誤差は、標準的なベイジアンネットワーク構造学習アルゴリズムの性能をどの程度劣化させるか？
• RQ2 後処理による補正フェーズは、測定誤差によって生じる偽陽性エッジを効果的に特定・除去できるか？
• RQ3 提案されたSEDアルゴリズムは、測定誤差下で多様な構造学習アルゴリズムのグラフィカルスコアをどの程度向上させるか？
• RQ4 補正手法は、測定誤差の異なるレベルや種別において、性能を維持または向上させるか？
• RQ5 SED手法は、既存の任意の構造学習アルゴリズムに即座に適用可能な汎用的なプラグイン補正として通用するか？

主な発見

• SED補正アルゴリズムは、測定誤差下において、PC、GES、ILP、MMHCの4つのwell-establishedな構造学習アルゴリズムのグラフィカルスコアを成功裏に向上させた。
• 複数のデータセットおよび測定誤差の異なるレベルにおいて一貫した改善が得られ、強固さが確認された。
• EMで推定された隠れ変数を含むモデルに対してBICスコアを活用することで、偽陽性エッジが効果的に削減された。
• 補正フェーズは、元の学習アルゴリズムの変更を一切必要とせず、後処理ステップとして普遍的に適用可能であった。
• 合成パフォーマンスベンチマークが、測定誤差を考慮していないため現実世界の性能を過大評価していることが結果から示され、SEDがその是正に寄与した。
• ノイズのある変数が、観測不能な誤差なしの親変数を条件付きで独立とするという仮定が妥当であることを検証し、モデルの整合性が向上した。