[论文解读] On the Convergence of Continuous Constrained Optimization for Structure Learning

Ignavier Ng, Sébastien Lachapelle+3 more|arXiv (Cornell University)|Nov 23, 2020

Computational Drug Discovery Methods参考文献 40被引用 5

一句话总结

本文研究了在有向无环图（DAG）结构学习中，增广拉格朗日法（ALM）与二次惩罚法（QPM）的收敛性质。研究发现，由于违反了正规性条件，ALM 的标准收敛保证在线性、非线性和有混淆因子的设定下均不成立，且实证表明 ALM 行为类似 QPM——易受病态条件影响。相比之下，QPM 在较弱条件下理论上可保证收敛至 DAG 解，为 DAG 结构学习提供了更可靠的优化路径。

ABSTRACT

Recently, structure learning of directed acyclic graphs (DAGs) has been formulated as a continuous optimization problem by leveraging an algebraic characterization of acyclicity. The constrained problem is solved using the augmented Lagrangian method (ALM) which is often preferred to the quadratic penalty method (QPM) by virtue of its standard convergence result that does not require the penalty coefficient to go to infinity, hence avoiding ill-conditioning. However, the convergence properties of these methods for structure learning, including whether they are guaranteed to return a DAG solution, remain unclear, which might limit their practical applications. In this work, we examine the convergence of ALM and QPM for structure learning in the linear, nonlinear, and confounded cases. We show that the standard convergence result of ALM does not hold in these settings, and demonstrate empirically that its behavior is akin to that of the QPM which is prone to ill-conditioning. We further establish the convergence guarantee of QPM to a DAG solution, under mild conditions. Lastly, we connect our theoretical results with existing approaches to help resolve the convergence issue, and verify our findings in light of an empirical comparison of them.

研究动机与目标

• 研究增广拉格朗日法（ALM）的标准收敛结果是否适用于 DAG 的结构学习。
• 评估 ALM 在实践中是否真正优于二次惩罚法（QPM），尤其是在病态条件与收敛至有效 DAG 方面的表现。
• 建立 QPM 在结构学习中收敛至 DAG 解的理论条件，即使 ALM 的收敛框架失效时亦成立。
• 将理论发现与现有方法相联系，并通过实证验证 ALM 与 QPM 在线性、非线性和有混淆因子设定下的收敛行为。
• 为连续约束 DAG 学习的优化提供实用指导，识别稳健的优化策略。

提出的方法

• 作者分析了在 DAG 结构学习背景下 ALM 的标准收敛条件，重点关注约束资格等正规性条件是否满足。
• 推导出 QPM 在 ALM 收敛框架失效时仍能保证收敛至 DAG 解的理论条件。
• 研究扩展至非线性和有混淆因子的设定，表明正规性条件的失效不仅存在于线性情形。
• 通过不同图大小与结构（ER1、SF4）的合成数据进行实证评估，以 SHD 和 SID 作为性能指标比较 ALM 与 QPM。
• 评估 L-BFGS 等二阶优化方法在缓解 QPM 子问题中病态条件问题上的能力，结果表明其具有更强鲁棒性。
• 将 NOTEARS-L1、Abs-KKTS、NoCurl 和 GOLEM-EV 进行对比，以验证理论主张并评估实际性能。

实验结果

研究问题

• RQ1 在有向无环图（DAG）结构学习问题中，ALM 所需的标准收敛条件（包括约束资格）是否在线性、非线性和有混淆因子设定下成立？
• RQ2 在 DAG 优化中，ALM 的实证行为与 QPM 在收敛性与病态条件方面的表现有何差异？
• RQ3 在何种条件下，QPM 可保证收敛至有效的 DAG 解？
• RQ4 像 L-BFGS 这类二阶优化方法是否能有效缓解基于 QPM 的 DAG 学习中的病态条件问题？
• RQ5 基于理论发现，现有方法如 GOLEM-EV、NoCurl 和 Abs-KKTS 在实证比较中表现如何？

主要发现

• 由于所需正规性条件（包括约束资格）在有向无环图（DAG）结构学习的线性、非线性和有混淆因子设定下被违反，ALM 的标准收敛结果不成立。
• 实证表明，ALM 的行为与 QPM 相似，需不断增大惩罚系数，且易受病态条件影响，与其理论优势相悖。
• QPM 在较弱条件下理论上可保证收敛至 DAG 解，因此即使存在经典局限性，仍是一种更可靠的优化方法。
• 由于 Hessian 近似中包含曲率信息，二阶方法（如 L-BFGS）在处理病态条件方面优于一阶方法（如 Adam、SGD），尤其在大规模图上表现更优。
• 实证比较显示，使用 L-BFGS 的 NOTEARS-L1 表现具有竞争力，且常优于 Abs-KKTS 和 NoCurl，尽管其易受病态条件影响，表明 L-BFGS 有效缓解了该问题。
• 在所有设定下，GOLEM-EV 在 SHD 和 SID 指标上表现最佳，尤其在 3d 样本规模的复杂配置中优势显著。