[论文解读] Differentiable DAG Sampling

Bertrand Charpentier, Simon Kibler+1 more|arXiv (Cornell University)|Mar 16, 2022

Bayesian Modeling and Causal Inference被引用 4

一句话总结

该论文提出DP-DAG，一种通过先采样拓扑排序再采样与之兼容的边来实现快速、可微分采样有向无环图（DAG）的可微分概率模型。此外，提出了VI-DP-DAG，一种变分推断方法，无需非可微后处理即可从观测数据中学习DAG结构，实现了最先进性能，并且训练速度比GraN-DAG和Masked-DAG等基线方法快达10倍。

ABSTRACT

We propose a new differentiable probabilistic model over DAGs (DP-DAG). DP-DAG allows fast and differentiable DAG sampling suited to continuous optimization. To this end, DP-DAG samples a DAG by successively (1) sampling a linear ordering of the node and (2) sampling edges consistent with the sampled linear ordering. We further propose VI-DP-DAG, a new method for DAG learning from observational data which combines DP-DAG with variational inference. Hence,VI-DP-DAG approximates the posterior probability over DAG edges given the observed data. VI-DP-DAG is guaranteed to output a valid DAG at any time during training and does not require any complex augmented Lagrangian optimization scheme in contrast to existing differentiable DAG learning approaches. In our extensive experiments, we compare VI-DP-DAG to other differentiable DAG learning baselines on synthetic and real datasets. VI-DP-DAG significantly improves DAG structure and causal mechanism learning while training faster than competitors.

研究动机与目标

• 解决从观测数据中可微分学习DAG的挑战，因为现有方法依赖计算成本高昂的增广拉格朗日方法或非可微后处理。
• 开发一种概率模型，通过结构化采样排列和边集，实现对有效DAG的快速、可微分采样。
• 设计一种变分推断框架（VI-DP-DAG），确保所有训练步骤中输出均为有效DAG，并支持端到端优化。
• 在显著缩短训练时间的同时，提升DAG结构与因果机制学习的性能，优于最先进基线方法。

提出的方法

• DP-DAG通过两步采样DAG：首先，使用Gumbel-Sinkhorn或Gumbel-Softmax可微分地采样节点的拓扑排序（排列）。
• 其次，使用Gumbel-Top-k或Gumbel-Softmax采样与所采样排序一致的边，确保无环性。
• 该方法利用离散分布的可微分松弛，实现对有效DAG空间的基于梯度的优化。
• VI-DP-DAG将DP-DAG与变分推断结合，通过由神经网络参数化的变分分布，近似给定观测数据下DAG边的后验分布。
• 该方法避免了复杂对偶上升或非可微剪枝步骤，确保每个训练步骤中均输出有效DAG。
• 模型通过最大化变分下界进行训练，边概率由基于拓扑排序条件的可学习潜在变量模型推导得出。

实验结果

研究问题

• RQ1 能否设计一种对DAG的可微分概率模型，实现在不依赖非可微后处理的前提下快速可靠地采样？
• RQ2 在结构和因果机制学习性能方面，VI-DP-DAG与现有可微分DAG学习方法相比如何？
• RQ3 DP-DAG中的可微分采样机制是否在数据扰动下产生更鲁棒、更可信的预测，优于基线方法？
• RQ4 VI-DP-DAG能否在保持或提升性能的同时，实现比最先进基线方法更快的训练速度，适用于合成与真实世界数据集？
• RQ5 在边离散化中阈值的选择在多大程度上影响VI-DP-DAG中因果机制的恢复？

主要发现

• VI-DP-DAG在DAG结构学习上达到最先进性能，在合成和真实数据集上，AUC-PR和AUC-ROC指标均优于GraN-DAG和Masked-DAG。
• 在ER-100-400数据集上，VI-DP-DAG的训练速度比GraN-DAG快10倍以上，且无需耗时的非可微处理步骤。
• 在ER-100-400数据集上，PNS预处理步骤比VI-DP-DAG慢约4倍，而CAM算法耗时超过900倍且在两天内未完成。
• 在大规模图上，CAM算法和DAG剪枝后处理步骤分别比VI-DP-DAG慢约23倍和4倍，凸显其效率优势。
• VI-DP-DAG对扰动图始终分配递减的置信度分数，表明其具有可靠的不确定性估计，而GraN-DAG和Masked-DAG等基线方法则更嘈杂。
• VI-DP-DAG中的因果机制学习对阈值选择具有鲁棒性，MSE分数保持稳定，仅在接近阈值1时因稀疏性导致Granger因果关系丢失。