[논문 리뷰] Bayesian learning of Causal Structure and Mechanisms with GFlowNets and Variational Bayes

Mizu Nishikawa-Toomey, Tristan Deleu외 3명|arXiv (Cornell University)|2022. 11. 04.

Bayesian Modeling and Causal Inference인용 수 5

한 줄 요약

이 논문은 변분 베이즈와 GFlowNets를 활용하여 인과 DAG의 구조와 선형-가우시안 기계 파라미터에 대한 사후 분포를 동시에 학습하는 새로운 방법인 Variational Bayes-DAG-GFlowNet(VBG)을 제안한다. DAG-GFlowNet을 확장하여 구조와 기계 파라미터를 모두 모델링함으로써, VBG는 사이클이 없는 것을 보장하고, 유연한 파arametrization을 지원하며, 시뮬레이션 데이터에서 우수한 성능을 달성한다. 특히, 불확실성 추정과 사후 근사에서 기존의 기준들보다 뛰어난 성능을 보인다.

ABSTRACT

Bayesian causal structure learning aims to learn a posterior distribution over directed acyclic graphs (DAGs), and the mechanisms that define the relationship between parent and child variables. By taking a Bayesian approach, it is possible to reason about the uncertainty of the causal model. The notion of modelling the uncertainty over models is particularly crucial for causal structure learning since the model could be unidentifiable when given only a finite amount of observational data. In this paper, we introduce a novel method to jointly learn the structure and mechanisms of the causal model using Variational Bayes, which we call Variational Bayes-DAG-GFlowNet (VBG). We extend the method of Bayesian causal structure learning using GFlowNets to learn not only the posterior distribution over the structure, but also the parameters of a linear-Gaussian model. Our results on simulated data suggest that VBG is competitive against several baselines in modelling the posterior over DAGs and mechanisms, while offering several advantages over existing methods, including the guarantee to sample acyclic graphs, and the flexibility to generalize to non-linear causal mechanisms.

연구 동기 및 목표

• 베이지안 인과 구조 학습에서 불확실성 하에 인과적 구조와 기계 파라미터를 동시에 학습하는 문제에 대응한다.
• 기존 방법들이 사이클이 없는 것을 보장하지 못하거나, 기계 파라미터화에 있어灵活性가 없거나, 사후 분포에서 샘플링을 수행할 수 없는 한계를 극복한다.
• DAG와 기계 파라미터에 대한 사후 근사에 대해 원칙적이고 확장 가능한 접근 방식을 제공함으로써 인과 발견에서의 능동 학습을 가능하게 한다.
• 이전에 구조 학습에 국한되어 있던 DAG-GFlowNet의 능력을 확장하여, 변분 베이즈를 통한 기계 파라미터 추론을 통합한다.
• 일반적인 비선형 기계에 대한 일반화를 가능하게 하는, 기계 분포의 탄력적인 파arametrization을 지원하는 통합 프레임워크를 제공한다.

제안 방법

• 변분 베이즈를 사용하여 공동 사후 근사 $P(G, \theta \mid \mathcal{D}) \approx q_{\phi}(G) q_{\lambda}(\theta \mid G)$ 를 제안한다. 여기서 $G$ 는 DAG의 구조이고 $\theta$ 는 기계 파라미터이다.
• GFlowNet을 사용하여 DAG 위의 변분 분포 $q_{\phi}(G)$ 를 모델링하며, ELBO에 포함된 기대 우도와 KL 발산 항을 반영한 보상 함수 $\widetilde{R}(G)$ 를 활용한다.
• 보상 함수를 $\log \widetilde{R}(G) = \mathbb{E}_{\theta \sim q_{\lambda}}[\log P(\mathcal{D} \mid \theta, G)] - \mathrm{KL}(q_{\lambda}(\theta \mid G) \| P(\theta \mid G)) + \log P(G)$ 로 정의하여 GFlowNet 학습을 이끌어낸다.
• ELBO에 대해 좌절적 상승법을 적용하여 $\phi$ (GFlowNet 파라미터) 와 $\lambda$ (기계 파라미터 분포 파라미터) 를 번갈아 최적화하며, $q_{\lambda}(\theta \mid G)$ 는 변분 추론을 통해 업데이트한다.
• GFlowNet 아키텍처가 본질적으로 유효한 DAG만 샘플링하므로, 구조적 제약을 통해 사이클이 없는 것을 보장한다.
• 공액 사전(예: 선형-가우시안 모델) 하에서 기계 파라미터의 닫힌 형태의 마진화를 활용하여 $P(\mathcal{D} \mid G)$ 와 $P(\theta \mid G)$ 를 효율적으로 계산한다.

실험 결과

연구 질문

• RQ1 스케일러블하고 미분 가능한 프레임워크를 통해 인과 DAG와 선형-가우시안 기계 파라미터에 대한 사후 분포를 동시에 학습시킬 수 있는가?
• RQ2 제안된 VBG 방법은 이전 방법들과 달리 학습 및 샘플링 중에 사이클이 없는지를 보장하는가?
• RQ3 VBG는 기존 기준들에 비해 구조와 기계에 대한 불확실성 모델링에서 어떻게 성능을 발휘하는가?
• RQ4 기계 분포의 탄력적인 파arametrization 을 통해 비선형 인과 기계로의 일반화가 가능한가?
• RQ5 변분 베이즈와 GFlowNets의 통합이 사후 근사 품질 향상과 인과 발견에서의 능동 학습 지원에 기여하는가?

주요 결과

• VBG는 DAG와 기계 파라미터에 대한 공동 사후 분포를 성공적으로 모델링하여, 시뮬레이션 데이터에서 사후 근사 및 구조 복구 측면에서 경쟁력 있는 성능을 달성한다.
• GFlowNet의 구조적 제약 덕분에 모든 샘플링된 그래프에서 사이클이 없는 것을 보장하여, DiBS나 VCN과 같은 이전 방법의 핵심 한계를 극복한다.
• VBG는 기계 파라미터 $\theta$ 에 대한 탄력적인 파arametrization 을 지원하여, BCD-Nets가 특정 파arametrization 에 제한되는 것과 달리 비선형 기계로의 일반화를 가능하게 한다.
• 학습 후에 무제한의 사후 샘플링이 가능하며, DiBS는 이 기능이 학습 후에 존재하지 않는다는 점에서 이점이 있다.
• 실험적 평가 결과, VBG는 진짜 사후와 근사 사후 간의 구조적 해밍 거리와 KL 발산 등의 지표에서 기준들보다 뛰어난 성능을 보였다.
• 이 방법은 확장 가능하며, 구조와 기계에 대한 잘 校정된 불확실성 추정을 제공하므로 능동 학습에 적합하며, 정보가 풍부한 간섭을 유도할 수 있다.