[논문 리뷰] Augmented Lagrangian based first-order methods for convex-constrained programs with weakly-convex objective

Zichong Li, Yangyang Xu|arXiv (Cornell University)|2020. 03. 19.

Advanced Optimization Algorithms Research참고 문헌 25인용 수 7

한 줄 요약

이 논문은 약간 비볼록 목표 함수를 가진 볼록 제약 조건을 가진 최적화 문제를 해결하기 위해 비정확한 보조 라그랑주 승수(iALM)와 이차 페널티 방법을 조합한 새로운 하이브리드 1차 방법을 제안한다. 프록시멀 포인트 반복과 보조 라그랑주 승수 방법 및 페널티 하위문제를 번갈아 적용함으로써, $O(\varepsilon^{-5/2} |\log \varepsilon|)$의 최적 반복 복잡도를 달성하여 이론적·실제로 기존 방법들을 능가한다.

ABSTRACT

First-order methods (FOMs) have been widely used for solving large-scale problems. A majority of existing works focus on problems without constraint or with simple constraints. Several recent works have studied FOMs for problems with complicated functional constraints. In this paper, we design a novel augmented Lagrangian (AL) based FOM for solving problems with non-convex objective and convex constraint functions. The new method follows the framework of the proximal point (PP) method. On approximately solving PP subproblems, it mixes the usage of the inexact AL method (iALM) and the quadratic penalty method, while the latter is always fed with estimated multipliers by the iALM. We show a complexity result of $O(\varepsilon^{-\frac{5}{2}}|\log\varepsilon|)$ for the proposed method to achieve an $\varepsilon$-KKT point. This is the best known result. Theoretically, the hybrid method has lower iteration-complexity requirement than its counterpart that only uses iALM to solve PP subproblems, and numerically, it can perform significantly better than a pure-penalty-based method. Numerical experiments are conducted on nonconvex linearly constrained quadratic programs and nonconvex QCQP. The numerical results demonstrate the efficiency of the proposed methods over existing ones.

연구 동기 및 목표

• 대규모 볼록 제약 조건을 가진 비볼록 목표 함수를 가진 최적화 문제를 1차 방법을 사용하여 해결하는 데 도전하는 것.
• 기능 제약 조건이 있는 비볼록 문제에 대해 기존 보조 라그랑주 승수 기반 1차 방법의 반복 복잡도를 향상시키는 것.
• 프록시멀 포인트 하위문제를 해결할 때 iALM의 안정성과 페널티 방법의 효율성을 결합한 하이브리드 알고리즘을 설계하는 것.
• 약간 비볼록 조건 하에서 $\varepsilon$-KKT 점을 달성하기 위한 비에르고딕 반복 복잡도 한계를 설정하는 것.
• 비볼록 선형 제약 조건을 가진 이차 프로그래밍 문제에서 하이브리드 방법이 순수 페널티 및 순수 iALM 기반 방법보다 수치적으로 현저히 뛰어나다는 것을 보여주는 것.

제안 방법

• 이 방법은 각 하위문제가 근사적으로 하이브리드 전략을 사용하여 해결되는 프록시멀 포인트(PP) 프레임워크를 따르며, 각 PP 하위문제는 비정확한 보조 라그랑주 승수 방법(iALM)과 이차 페널티 방법을 번갈아 적용한다.
• iALM는 페널티 하위문제의 추정 이중 승수를 제공하며, 이로 인해 순수 페널티 방법보다 더 나은 수렴 행동을 확보한다.
• 페널티 하위문제는 iALM에서 도출된 추정 승수를 사용하여 해결되며, 이는 순수 페널티 방법보다 더 나은 수렴 특성을 보장한다.
• 알고리즘은 $L_{\min}, \gamma_1, \gamma_2$ 매개변수를 가진 선 탐색 전략을 사용하여 페널티 매개변수와 스텝 크기를 적응적으로 조정한다.
• 비볼록 및 가능성이 없는 목표 함수를 다룰 수 있도록 설계되었으며, 동시에 볼록 제약 조건과 제약 함수의 약간 비볼록성 유지한다.
• 수렴 분석은 비가역성과 최적성 갭을 제한함으로써, $\varepsilon$-KKT 점 허용 오차에 대한 비에르고딕 복잡도 한계를 이끌어낸다.

실험 결과

연구 질문

• RQ1 iALM와 페널티 방법을 조합한 하이브리드 1차 방법이 약간 비볼록 제약 조건 문제에서 순수 iALM 또는 순수 페널티 방법보다 더 낮은 반복 복잡도를 달성할 수 있는가?
• RQ2 약간 비볼록 목표 함수를 가진 볼록 제약 조건 문제에서 $\varepsilon$-KKT 점을 달성하기 위한 최적의 비에르고딕 반복 복잡도는 무엇인가?
• RQ3 실제로 하이브리드 방법은 순수 페널티 및 순수 iALM 기반 방법과 비교해 어떻게 성능을 발휘하는가?
• RQ4 알고리즘 성능은 $L_{\min}, \gamma_1, \gamma_2$와 같은 하이퍼파rameter 선택에 얼마나 민감한가?
• RQ5 대규모 문제에 대해 낮은 반복 비용을 유지하면서도 뛰어난 전역 수렴 속도를 달성할 수 있는가?

주요 결과

• 제안된 방법은 $\varepsilon$-KKT 점을 찾는 데 $O(\varepsilon^{-5/2} |\log \varepsilon|)$의 반복 복잡도를 달성하여 현재까지 알려진 최고의 결과이다.
• 하이브리드 방법은 하위문제의 조건이 더 나아지기 때문에, PP 하위문제를 해결할 때 순수 iALM 기반 방법보다 낮은 반복 복잡도를 가진다.
• 비볼록 선형 제약 조건을 가진 이차 프로그래밍 문제에 대한 수치 실험 결과, 하이브리드 방법은 목표 함수 평가와 기울기 평가 측면에서 순수 페널티 기반 방법보다 현저히 뛰어나다.
• 알고리즘은 하이퍼파rameter 선택에 대해 강건하며, $L_{\min}, \gamma_1, \gamma_2$의 다양한 설정에서 성능 변화가 동일 주기의 수준 내에서만 발생한다.
• 27개의 파라미터 조합에 걸쳐 평균 목표 함수 평가 수는 $\varepsilon = 10^{-3}$일 때 약 116만 번이었으며, 타당성 및 최적성 잔여항은 모두 $10^{-3}$ 이하였다.
• 알고리즘은 반복 전반에 걸쳐 타당성을 유지하며, 주어진 허용 오차 하에서 원천 비가역성과 이중 비가역성이 모두 거의 0으로 수렴한다.