[논문 리뷰] On the Convergence of Continuous Constrained Optimization for Structure Learning

Ignavier Ng, Sébastien Lachapelle외 3명|arXiv (Cornell University)|2020. 11. 23.

Computational Drug Discovery Methods참고 문헌 40인용 수 5

한 줄 요약

이 논문은 방향 비순환 그래프(DAGs)에서의 구조 학습을 위한 보완 라그랑주 방법(ALL)과 이차 페널티 방법(QPM)의 수렴 성질을 조사한다. ALM의 표준 수렴 보장 조건이 선형, 비선형 및 혼동 요건이 있는 설정에서 정규성 조건이 위반되어 성립하지 않음을 보이며, 실제로 ALM이 QPM와 유사하게 행동함을 실험적으로 입증한다—즉, 불량 조건에 취약하다. 반면 QPM는 온건한 조건 하에 DAG 해에 수렴할 수 있음을 이론적으로 보장하며, DAG 구조 학습을 위한 더 신뢰할 수 있는 최적화 경로를 제공한다.

ABSTRACT

Recently, structure learning of directed acyclic graphs (DAGs) has been formulated as a continuous optimization problem by leveraging an algebraic characterization of acyclicity. The constrained problem is solved using the augmented Lagrangian method (ALM) which is often preferred to the quadratic penalty method (QPM) by virtue of its standard convergence result that does not require the penalty coefficient to go to infinity, hence avoiding ill-conditioning. However, the convergence properties of these methods for structure learning, including whether they are guaranteed to return a DAG solution, remain unclear, which might limit their practical applications. In this work, we examine the convergence of ALM and QPM for structure learning in the linear, nonlinear, and confounded cases. We show that the standard convergence result of ALM does not hold in these settings, and demonstrate empirically that its behavior is akin to that of the QPM which is prone to ill-conditioning. We further establish the convergence guarantee of QPM to a DAG solution, under mild conditions. Lastly, we connect our theoretical results with existing approaches to help resolve the convergence issue, and verify our findings in light of an empirical comparison of them.

연구 동기 및 목표

• 보완 라그랑주 방법(ALL)의 표준 수렴 결과가 DAG에서의 구조 학습에 적용되는지 조사하기.
• 특히 불량 조건과 유효한 DAG로의 수렴 측면에서, 실생활에서 ALM가 이차 페널티 방법(QPM)보다 진정으로 열등한지 평가하기.
• QPM가 ALM의 수렴 프레임워크가 붕괴할 때조차도 DAG 해로 수렴할 수 있는 이론적 조건을 설정하기.
• 이론적 결과를 기존 접근법과 연결하고, 선형, 비선형, 혼동 설정 전반에서 ALM와 QPM의 수렴 행동을 경험적으로 검증하기.
• 연속적인 제약 조건이 있는 DAG 학습 최적화를 위한 실용적 지침을 제공하고, 강력한 최적화 전략을 식별하기.

제안 방법

• 저자들은 DAG 구조 학습 맥락에서 ALM의 표준 수렴 조건을 분석하며, 제약 조건 충족도 등 정규성 조건의 이행 여부를 중점적으로 다룬다.
• ALM의 수렴 프레임워크가 붕괴할 때조차도 QPM가 DAG 해로 수렴할 수 있는 이론적 조건을 유도한다.
• 분석을 비선형 및 혼동 설정으로 확장하여, 정규성 조건의 실패가 선형 사례를 초월해 지속됨을 보여준다.
• 실험적 평가에서는 다양한 그래프 크기와 구조(ER1, SF4)를 가진 시뮬레이션 데이터를 사용하여 SHD와 SID를 성능 지표로 측정한다.
• L-BFGS와 같은 이차 최적화 방법이 QPM 하위 문제에서의 불량 조건 문제를 완화하는 데 얼마나 효과적인지 평가하며, 개선된 강건성을 입증한다.
• 이론적 주장의 검증과 실용적 성능 평가를 위해 NOTEARS-L1, Abs-KKTS, NoCurl, GOLEM-EV를 비교한다.

실험 결과

연구 질문

• RQ1 선형, 비선형, 혼동 요건이 있는 DAG 구조 학습 문제에서 ALM의 표준 수렴에 필요한 정규성 조건(예: 제약 조건 충족도)이 성립하는가?
• RQ2 DAG 최적화에서 ALM의 경험적 행동은 수렴성과 불량 조건 측면에서 QPM와 어떻게 비교되는가?
• RQ3 어떤 조건에서 QPM가 구조 학습 중에 유효한 DAG 해로 수렴할 수 있는가?
• RQ4 L-BFGS와 같은 이차 최적화 방법은 QPM 기반 DAG 학습에서의 불량 조건 문제를 효과적으로 완화할 수 있는가?
• RQ5 이론적 결과를 바탕으로 기존 접근법인 GOLEM-EV, NoCurl, Abs-KKTS의 경험적 성능은 어떻게 비교되는가?

주요 결과

• DAG 구조 학습에서 ALM의 표준 수렴 결과는 성립하지 않으며, 제약 조건 충족도를 포함한 필요 정규성 조건이 선형, 비선형, 혼동 설정 모두에서 위반되기 때문이다.
• 경험적으로 ALM는 QPM와 비슷하게 행동하며, 페널티 계수를 무한히 증가시켜야 하고 불량 조건에 취약함을 보이며, 이는 이론적 우월성과는 정반대이다.
• QPM는 온건한 조건 하에 DAG 해로 수렴할 수 있음을 이론적으로 보장하므로, 고전적 한계가 있음에도 불구하고 더 신뢰할 수 있는 최적화 방법이다.
• L-BFGS와 같은 이차 방법은 헤시안 근사에서 곡률 정보를 활용해 일차 방법(예: Adam, SGD)보다 불량 조건을 더 잘 다루며, 특히 큰 그래프에서 뛰어난 성능을 보인다.
• 경험적 비교에서 L-BFGS를 사용한 NOTEARS-L1은 불량 조건에 취약함에도 불구하고 Abs-KKTS와 NoCurl보다 경쟁력 있고 종종 더 우수한 성능을 보이며, 이는 L-BFGS가 문제를 완화시킨다는 것을 시사한다.
• GOLEM-EV는 모든 설정에서 SHD와 SID 측면에서 가장 뛰어난 전반적 성능을 보이며, 특히 3d 표본 크기의 도전적인 구성에서 뛰어난 성능을 발휘한다.