[论文解读] Greedy Relaxations of the Sparsest Permutation Algorithm

W. Y. Lam, Bryan Andrews+1 more|arXiv (Cornell University)|Jun 11, 2022

Constraint Satisfaction and Optimization被引用 6

一句话总结

本文提出GRaSP，一种可扩展的因果发现算法，通过稀疏排列方法的贪心松弛扩展了排列搜索。通过引入一种新颖的“tuck”操作和分层算法设计（GRaSP0–GRaSP2），其在弱于信仰性假设下的点一致性得以实现，优于现有最先进方法在包含最多100个变量的密集图上的模拟表现，同时保持高精度与高效率。

ABSTRACT

There has been an increasing interest in methods that exploit permutation reasoning to search for directed acyclic causal models, including the "Ordering Search" of Teyssier and Kohler and GSP of Solus, Wang and Uhler. We extend the methods of the latter by a permutation-based operation, tuck, and develop a class of algorithms, namely GRaSP, that are efficient and pointwise consistent under increasingly weaker assumptions than faithfulness. The most relaxed form of GRaSP outperforms many state-of-the-art causal search algorithms in simulation, allowing efficient and accurate search even for dense graphs and graphs with more than 100 variables.

研究动机与目标

• 开发一种可扩展的因果发现算法，在弱于因果信仰性的假设下仍保持高精度。
• 通过引入贪心松弛和一种新的“tuck”操作，扩展稀疏排列方法（SP），以提升计算可行性。
• 设计一种分层算法框架（GRaSP0–GRaSP2），逐步放松搜索约束，同时保持理论一致性。
• 在非信仰性分布和大规模模型（包括超过100个变量的密集图）上评估性能。
• 在模拟和真实数据中，证明其在精度、召回率和F1分数上优于现有方法（如PC、fGES和ESP）。

提出的方法

• GRaSP基于变量顺序的排列搜索，其中每个顺序通过从前序变量中选择父节点来诱导出一个DAG。
• 核心创新是“tuck”操作，一种局部排列移动，可在保持边数或改善边数的同时，实现对搜索空间的高效遍历。
• GRaSP分为三个层级：GRaSP0（等价于TSP）、GRaSP1（等价于ESP）和GRaSP2（一种新颖的松弛方法，具有更高的一致性和可扩展性）。
• 每一层级均采用基于邻接交换（ATs）的贪心深度优先搜索策略，但GRaSP2允许更广泛的边数约束松弛，以提升搜索效率。
• 该算法整合了Grow-Shrink结构学习方法，以高效估计马尔可夫毯和条件独立关系。
• 一致性在弱于信仰性的假设下得以建立，GRaSP2在图模型假设下实现了点一致性。

实验结果

研究问题

• RQ1 稀疏排列算法的贪心松弛是否能在弱于信仰性的假设下实现一致的因果发现？
• RQ2 “tuck”操作的引入是否能实现在超过100个变量的密集图中可扩展且准确的因果发现？
• RQ3 在非信仰性和密集分布下，GRaSP2与PC、fGES和ESP等最先进算法相比，在精确率、召回率和F1分数方面表现如何？
• RQ4 GRaSP2在存在路径抵消和近确定性依赖（违反信仰性）的情况下，其准确性能保持到何种程度？
• RQ5 在真实世界数据（如NASA机翼实验）中，GRaSP2能否恢复正确的因果结构，其中信仰性被违反？

主要发现

• 在包含最多100个变量的线性高斯模型模拟研究中，GRaSP2在精度、召回率和F1分数方面均优于PC、fGES和ESP，即使在平均度数超过10时仍保持高性能。
• GRaSP2在4个和5个变量的非信仰性分布中保持高精度，这些分布因路径抵消而存在边际独立性，表明其对信仰性违反具有鲁棒性。
• 在NASA机翼实验中，GRaSP2正确识别出攻击（Attack）为外生变量，而PC和fGES则产生了错误或不完整的结论。
• GRaSP2在大规模图上表现出高效的可扩展性，即使在100个变量的模型中，计算时间仍保持实际可行，与PC和fGES的运行时间对比显示了其优势。
• Oracle研究证实，GRaSP2在所有涉及路径抵消的非信仰性案例中均能恢复真实模型，而PC和fGES则不能。
• GRaSP2在图模型假设下实现了点一致性，代表了在理论假设上超越信仰性的松弛，同时保持了实际可扩展性。