[論文レビュー] On the Convergence of Continuous Constrained Optimization for Structure Learning

Ignavier Ng, Sébastien Lachapelle+3 more|arXiv (Cornell University)|Nov 23, 2020

Computational Drug Discovery Methods参考文献 40被引用数 5

ひとこと要約

本稿は、有向無閉路グラフ（DAGs）における構造学習のための拡張ラグランジュ乗数法（ALM）と二次ペナルティ法（QPM）の収束特性を調査する。ALMの標準的な収束保証は、線形・非線形・交絡要因を含む設定において、正則性条件が満たされないために成立しないことが示され、実験的にALMがQPMと同様に悪条件化に悩まされることを裏付けた。一方、QPMは弱い条件下でもDAG解への収束が理論的に保証されており、DAG構造学習におけるより信頼性の高い最適化経路を提供する。

ABSTRACT

Recently, structure learning of directed acyclic graphs (DAGs) has been formulated as a continuous optimization problem by leveraging an algebraic characterization of acyclicity. The constrained problem is solved using the augmented Lagrangian method (ALM) which is often preferred to the quadratic penalty method (QPM) by virtue of its standard convergence result that does not require the penalty coefficient to go to infinity, hence avoiding ill-conditioning. However, the convergence properties of these methods for structure learning, including whether they are guaranteed to return a DAG solution, remain unclear, which might limit their practical applications. In this work, we examine the convergence of ALM and QPM for structure learning in the linear, nonlinear, and confounded cases. We show that the standard convergence result of ALM does not hold in these settings, and demonstrate empirically that its behavior is akin to that of the QPM which is prone to ill-conditioning. We further establish the convergence guarantee of QPM to a DAG solution, under mild conditions. Lastly, we connect our theoretical results with existing approaches to help resolve the convergence issue, and verify our findings in light of an empirical comparison of them.

研究の動機と目的

• 拡張ラグランジュ乗数法（ALM）の標準的な収束結果が、DAGにおける構造学習に適用可能かどうかを調査すること。
• 特に悪条件化や有効なDAGへの収束という観点から、実際の応用においてALMがQPMを上回っているかどうかを評価すること。
• ALMの収束枠組みが崩壊する場合でも、QPMがDAG解に収束することを保証する理論的条件を確立すること。
• 理論的知見を既存の手法と結びつけ、線形・非線形・交絡要因を含む設定においてALMおよびQPMの収束行動を実験的に検証すること。
• 連続的制約付きDAG学習を最適化するにあたり、堅牢な最適化戦略を特定することで実用的指針を提供すること。

提案手法

• 著者らは、DAG構造学習の文脈においてALMの標準的収束条件を分析し、制約適合性（constraint qualifications）を含む正則性条件の満たし方を重点的に検討した。
• ALMの収束フレームワークが崩壊する状況でも、QPMがDAG解に収束することを保証する理論的条件を導出した。
• 分析を非線形および交絡要因を含む設定に拡張し、正則性条件の不満たしが線形ケースに限らないことを示した。
• 合成データを用いた実験的評価により、さまざまなグラフサイズと構造（ER1, SF4）におけるALMとQPMを比較し、性能指標としてSHDとSIDを測定した。
• L-BFGSなどの2次最適化手法が、QPMの部分問題における悪条件化を緩和する能力を評価し、特に大きなグラフにおいて優れた耐性を示した。
• 理論的主張の妥当性を検証し、実用的性能を評価するために、NOTEARS-L1、Abs-KKTS、NoCurl、GOLEM-EVを比較した。

実験結果

リサーチクエスチョン

• RQ1 線形・非線形・交絡要因を含むDAG構造学習問題において、ALMの標準的収束に必要な正則性条件（制約適合性など）が満たされるか。
• RQ2 DAG最適化における収束性と悪条件化という観点から、ALMの実験的挙動はQPMとどのように異なるか。
• RQ3 どのような条件下でQPMが有効なDAG解に収束することが理論的に保証されるか。
• RQ4 L-BFGSのような2次最適化手法は、QPMに基づくDAG学習における悪条件化問題を効果的に緩和できるか。
• RQ5 理論的知見を踏まえた上で、GOLEM-EV、NoCurl、Abs-KKTSといった既存手法の実用的性能はどのように比較されるか。

主な発見

• ALMの標準的収束結果は、DAG構造学習では成立しない。制約適合性を含む必要な正則性条件が、線形・非線形・交絡要因を含む設定すべてで満たされないためである。
• 実験的に、ALMはQPMと同様に、ペナルティ係数を無限大にまで増加させる必要があり、悪条件化に悩まされる。これは理論的優位性とは対照的である。
• QPMは弱い条件下でもDAG解への収束が理論的に保証されており、古典的な限界があるものの、より信頼性の高い最適化手法である。
• Hessian近似による曲率情報を利用できる2次手法（L-BFGS）は、1次手法（例：Adam, SGD）に比べ、特に大きなグラフにおいて悪条件化の緩和に優れている。
• 実験的比較では、L-BFGSを用いたNOTEARS-L1は、悪条件化に脆弱であるものの、Abs-KKTS や NoCurl と比較して競争力があり、しばしば優れた性能を示した。これはL-BFGSが問題を緩和している証左である。
• GOLEM-EVは、すべての設定においてSHDとSIDの観点で最も優れた全体的性能を示し、特に3dサンプルサイズの困難な設定でも顕著であった。