[논문 리뷰] Differentiable DAG Sampling

Bertrand Charpentier, Simon Kibler외 1명|arXiv (Cornell University)|2022. 03. 16.

Bayesian Modeling and Causal Inference인용 수 4

한 줄 요약

이 논문은 먼저 노드의 위상적 순서를 샘플링한 후, 이를 따르는 간선을 샘플링하는 방식으로 빠르고 미분 가능한 방식으로 방향 비순환 그래프(DAG)를 샘플링할 수 있는 미분 가능한 확률 모델인 DP-DAG을 소개한다. 또한 비관측 데이터로부터 DAG의 구조를 학습할 수 있도록 비선형 최적화 기반의 변분 추론 기법인 VI-DP-DAG를 제안하며, 비미분 가능한 후처리 과정이 필요 없고, 기존의 GraN-DAG나 Masked-DAG와 비교해 최대 10배 빠른 훈련 속도를 기록하며 최신 기준 성능을 달성한다.

ABSTRACT

We propose a new differentiable probabilistic model over DAGs (DP-DAG). DP-DAG allows fast and differentiable DAG sampling suited to continuous optimization. To this end, DP-DAG samples a DAG by successively (1) sampling a linear ordering of the node and (2) sampling edges consistent with the sampled linear ordering. We further propose VI-DP-DAG, a new method for DAG learning from observational data which combines DP-DAG with variational inference. Hence,VI-DP-DAG approximates the posterior probability over DAG edges given the observed data. VI-DP-DAG is guaranteed to output a valid DAG at any time during training and does not require any complex augmented Lagrangian optimization scheme in contrast to existing differentiable DAG learning approaches. In our extensive experiments, we compare VI-DP-DAG to other differentiable DAG learning baselines on synthetic and real datasets. VI-DP-DAG significantly improves DAG structure and causal mechanism learning while training faster than competitors.

연구 동기 및 목표

• 관측 데이터로부터의 미분 가능한 DAG 학습에 도전하며, 기존 방법들이 계산 비용이 큰 증강 라그랑주 방법이나 비미분 가능한 후처리 과정에 의존하는 문제를 해결하고자 한다.
• 구조화된 순열과 간선 집합의 샘플링을 통해 유효한 DAG를 신속하고 미분 가능한 방식으로 샘플링할 수 있는 확률 모델을 개발하고자 한다.
• 모든 훈련 단계에서 유효한 DAG 출력을 보장하고 종단 간 최적화를 지원하는 변분 추론 프레임워크(VI-DP-DAG)를 설계하고자 한다.
• 최신 기준 기준보다 훨씬 빠른 훈련 시간을 확보하면서도 DAG의 구조 및 인과 메커니즘 학습 성능을 향상시키고자 한다.

제안 방법

• DP-DAG는 DAG를 두 단계로 샘플링한다: 첫째, 노드의 위상적 순서(순열)를 Gumbel-Sinkhorn 또는 Gumbel-Softmax를 사용해 미분 가능한 방식으로 샘플링한다.
• 둘째, 샘플된 순서와 일관된 간선을 Gumbel-Top-k 또는 Gumbel-Softmax를 통해 샘플링하여 사이클이 발생하지 않도록 보장한다.
• 이 방법은 이산 분포의 미분 가능한 근사화를 활용하여 유효한 DAG 공간에서 기울기 기반 최적화를 가능하게 한다.
• VI-DP-DAG는 DP-DAG를 변분 추론과 결합하여 관측된 데이터를 바탕으로 간선에 대한 사후분포를 근사한다. 이때 변분 분포는 신경망에 의해 매개변수화된다.
• 복잡한 이중 상승 또는 비미분 가능한 정렬 단계가 필요 없도록 하여 모든 훈련 단계에서 유효한 DAG를 보장한다.
• 모델는 간선 확률이 위상적 순서에 조건부로 학습된 잠재 변수 모델에 기반한 변분 하한 최대화를 통해 훈련된다.

실험 결과

연구 질문

• RQ1 비미분 가능한 후처리에 의존하지 않고도 신속하고 신뢰할 수 있는 샘플링이 가능한, DAG에 대한 미분 가능한 확률 모델을 설계할 수 있는가?
• RQ2 기존의 다양한 DAG 학습 방법과 비교했을 때, VI-DP-DAG는 어떤 구조 및 인과 메커니즘 학습 성능을 보이는가?
• RQ3 DP-DAG의 미분 가능한 샘플링 메커니즘은 기존 기준 대비 데이터 변형에 더 강건하고 신뢰도 높은 예측을 제공하는가?
• RQ4 VI-DP-DAG는 합성 및 실세계 데이터셋에서 성능을 유지하거나 향상시키면서도 훨씬 더 빠른 훈련 속도를 달성할 수 있는가?
• RQ5 간선 이산화에서의 임계값 선택이 VI-DP-DAG의 인과 메커니즘 복구에 미치는 영향은 어느 정도인가?

주요 결과

• VI-DP-DAG는 합성 및 실세계 데이터셋 전반에서 AUC-PR 및 AUC-ROC 지표에서 GraN-DAG와 Masked-DAG를 모두 능가하는 최신 기준 성능을 기록한다.
• ER-100-400 데이터셋에서 VI-DP-DAG는 GraN-DAG보다 10배 이상 빠른 훈련 속도를 기록하며, 비효율적인 비미분 가능한 처리 단계가 필요 없다.
• ER-100-400에서 PNS 전처리 단계는 VI-DP-DAG보다 약 4배 느리며, CAM은 900배 이상 느리고 2일 이내에 완료되지 않았다.
• 대규모 그래프에서 CAM 알고리즘과 DAG 정렬 후처리 과정은 각각 VI-DP-DAG보다 약 23배, 4배 느리며, 이는 그 효율성 우수성을 입증한다.
• VI-DP-DAG는 변형된 그래프에 대해 일관되게 감소하는 신뢰도 점수를 할당하여 신뢰할 수 있는 불확실성 추정이 가능하며, GraN-DAG나 Masked-DAG와 같은 노이즈가 많은 기준 대비 유의미한 이점이 있다.
• VI-DP-DAG의 인과 메커니즘 학습은 임계값 선택에 대해 강건하며, MSE 점수는 대부분의 경우 안정적이지만, 임계값 1 근처에서는 희소성로 인해 그랑저-인과 관계가 손실되는 경향이 있다.