[論文レビュー] pgmpy: A Python Toolkit for Bayesian Networks

Ankur Ankan, Johannes Textor|arXiv (Cornell University)|Apr 17, 2023

Bayesian Modeling and Causal Inference被引用数 16

ひとこと要約

pgmpy は純粋な Python 製でモジュール式のツールキットであり、ベイズネットワークと関連モデルの構造学習、パラメータ推定、(厳密および近似)確率推論、因果推論、シミュレーションを提供し、設計上の拡張性を備えています。

ABSTRACT

Bayesian Networks (BNs) are used in various fields for modeling, prediction, and decision making. pgmpy is a python package that provides a collection of algorithms and tools to work with BNs and related models. It implements algorithms for structure learning, parameter estimation, approximate and exact inference, causal inference, and simulations. These implementations focus on modularity and easy extensibility to allow users to quickly modify/add to existing algorithms, or to implement new algorithms for different use cases. pgmpy is released under the MIT License; the source code is available at: https://github.com/pgmpy/pgmpy, and the documentation at: https://pgmpy.org.

研究の動機と目的

• ドメインを超えたベイズネットワークのための拡張性のある Python ツールキットの必要性を喚起する。
• 幅広い BN タスクをサポートするモジュール式で読みやすい実装を提供する。
• ユーザーが容易に拡張できる構造学習、パラメータ学習、推論、因果推論、シミュレーションのアルゴリズムを提供する。

提案手法

• 読みやすさと拡張性を最大化するため、純粋な Python で実装されている。
• アルゴリズムファミリ全体で共通のデータ構造とインターフェイスを定義するため、抽象基底クラスを使用している。
• 構造学習アルゴリズムには nosep PC (複数の CI テストを含む)、Hill-Climb、MMHC、さらに木構造のための Chow-Liu と Tree Augmented Naive Bayes が含まれる。
• パラメータ学習には最大尤度、Dirichlet/BDeu/K2 priors を用いたベイズ推定、欠測データに対する期待値最大化法を含む。
• 確率推論は変数消去による厳密推論（VE）を効率的な除去順ヒューリスティックとBelief Propagationとともにサポートします。近似推論はシミュレーションベースの手法で行います。
• 因果推論の特徴には Instrumental Variables および Adjustment Set ツールが含まれ、連続データと離散データの両方をサポートし、必要に応じて外部統計モデルの利用も可能です。

実験結果

リサーチクエスチョン

• RQ1 1つの Python ツールキットが効率的にサポートすべき BN タスクは何か（構造学習、パラメータ学習、推論、因果推論、シミュレーション）？
• RQ2 モジュール式で拡張性のある設計パターン（基底クラス、プラグ可能なコンポーネント）が新しい BN アルゴリズムの追加をどう促進できるか？
• RQ3 確率推論と因果推論の機能を組み合わせる観点で、pgmpy は他のパッケージと比較してどの程度の範囲をカバーしているか？

主な発見

• pgmpy は離散変数に対する構造学習、パラメータ学習、確率推論、因果推論、シミュレーションを含む包括的な BN ツールを提供する（連続データ/混和データには部分的に対応）。
• このパッケージは純Python実装と抽象基底クラスを通じたモジュール性と拡張性を強調し、アルゴリズムのカスタマイズと統合を容易にする。
• 複数の構造学習手法（PC_variants、HC、MMHC、Chow-Liu、TAN）を実装し、複数の CI テストと評価指標を備え、標準的な CPT/CPD 推定法も併せて提供。
• 推論は厳密（VE）およびBP法をサポートし、計算コストを削減する効率的な除去順序戦略を備える。
• 因果推論機能にはIVベースの推定と調整集合法を含み、連続データと離散データの両方をサポートし、必要に応じて外部統計モデルの使用も可能。
• Export/Import support for multiple BN interchange formats enhances interoperability with other tools