[論文レビュー] Bayesian learning of Causal Structure and Mechanisms with GFlowNets and Variational Bayes

Mizu Nishikawa-Toomey, Tristan Deleu+3 more|arXiv (Cornell University)|Nov 4, 2022

Bayesian Modeling and Causal Inference被引用数 5

ひとこと要約

この論文は、変分ベイズとGFlowNetsを用いて、因果的DAG構造と線形ガウス型機構パラメータの後方分布を同時に学習する新規手法、Variational Bayes-DAG-GFlowNet (VBG) を提案する。DAG-GFlowNetを構造と機構パラメータの両方をモデル化するように拡張することで、VBGはサイクルなしを保証し、柔軟なパrameter化を可能とし、シミュレートされたデータにおいて優れた性能を示し、不確実性推定と後方分布近似の面でベースラインを上回る。

ABSTRACT

Bayesian causal structure learning aims to learn a posterior distribution over directed acyclic graphs (DAGs), and the mechanisms that define the relationship between parent and child variables. By taking a Bayesian approach, it is possible to reason about the uncertainty of the causal model. The notion of modelling the uncertainty over models is particularly crucial for causal structure learning since the model could be unidentifiable when given only a finite amount of observational data. In this paper, we introduce a novel method to jointly learn the structure and mechanisms of the causal model using Variational Bayes, which we call Variational Bayes-DAG-GFlowNet (VBG). We extend the method of Bayesian causal structure learning using GFlowNets to learn not only the posterior distribution over the structure, but also the parameters of a linear-Gaussian model. Our results on simulated data suggest that VBG is competitive against several baselines in modelling the posterior over DAGs and mechanisms, while offering several advantages over existing methods, including the guarantee to sample acyclic graphs, and the flexibility to generalize to non-linear causal mechanisms.

研究の動機と目的

• ベイズ的因果構造学習における不確実性下での因果的構造と機構パラメータの同時学習の課題に取り組む。
• サイクルなしを保証できない、機構パラメータのパrameter化が柔軟でない、または後方分布からのサンプリングができないという既存手法の限界を克服する。
• DAGと機構パラメータの両方の後方分布近似に対する原理的かつスケーラブルなアプローチを提供することで、因果探索におけるアクティブラーニングを可能にする。
• 従来、構造学習に限定されていたDAG-GFlowNetの能力を拡張し、変分ベイズを用いた機構パラメータ推論を統合する。
• 一般化可能な非線形機構への対応を可能にする、機構分布の柔軟なパrameter化を支援する統一フレームワークを提供する。

提案手法

• 変分ベイズを用いて、$P(G, \theta \mid \mathcal{D}) \approx q_{\phi}(G) q_{\lambda}(\theta \mid G)$ のような同時後方分布近似を提案する。ここで、$G$ はDAG構造、$\theta$ は機構パラメータを表す。
• GFlowNetを用いて、DAG上の変分分布 $q_{\phi}(G)$ をモデル化し、ELBOに由来する報酬関数 $\widetilde{R}(G)$ を導入する。
• 報酬関数を $\log \widetilde{R}(G) = \mathbb{E}_{\theta \sim q_{\lambda}}[\log P(\mathcal{D} \mid \theta, G)] - \mathrm{KL}(q_{\lambda}(\theta \mid G) \| P(\theta \mid G)) + \log P(G)$ として定義し、GFlowNetの学習を誘導する。
• ELBOの座標勾配上での最適化を、$\phi$（GFlowNetパラメータ）と $\lambda$（機構パラメータ分布パラメータ）を交互に最適化することで行い、$q_{\lambda}(\theta \mid G)$ は変分推論を用いて更新する。
• GFlowNetアーキテクチャが有効なDAGのみをサンプリングする性質を利用し、構造的にサイクルなしを保証する。
• 共役事前分布（例：線形ガウス型モデル）における機構パラメータの閉形式マージナル化を活用し、$P(\mathcal{D} \mid G)$ と $P(\theta \mid G)$ を効率的に計算する。

実験結果

リサーチクエスチョン

• RQ1 スケーラブルで微分可能なフレームワークを用いて、因果的DAGと線形ガウス型機構パラメータの同時後方分布を学習することは可能か？
• RQ2 提案手法VBGは、従来の手法とは異なり、学習およびサンプリングの過程でサイクルなしを保証するか？
• RQ3 VBGは、構造と機構の両方における不確実性をどのようにモデル化するか？既存のベースラインと比較してどうか？
• RQ4 機構分布の柔軟なパrameter化により、非線形因果機構への一般化は可能か？
• RQ5 変分ベイズとGFlowNetsの統合は、後方分布近似の質を向上させ、因果探索におけるアクティブラーニングを支援するか？

主な発見

• VBGはDAGと機構パラメータの同時後方分布を効果的にモデル化し、シミュレートされたデータにおいて、後方分布近似と構造回復の観点で競争力ある性能を達成した。
• GFlowNetの構造的制約により、すべてのサンプルされたグラフでサイクルなしを保証し、DiBS や VCN といった手法の主な限界を克服した。
• VBGは機構パラメータ $\theta$ の柔軟なパrameter化をサポートし、BCD-Netsが特定のパrameter化に制限されるのとは異なり、非線形機構への一般化を可能にした。
• 訓練後、無制限の後方分布サンプリングが可能であるのに対し、DiBS は訓練後この機能を欠いている。
• 実験的評価では、VBGが構造的ハミング距離や真の後方分布と近似された後方分布のKLダイバージェンスといった指標でベースラインを上回った。
• 本手法はスケーラブルであり、構造と機構の両方における適切にキャリブレーションされた不確実性推定を提供するため、アクティブラーニングに適している。