[논문 리뷰] Rate-improved Inexact Augmented Lagrangian Method for Constrained Nonconvex Optimization

Zichong Li, Pin‐Yu Chen외 3명|arXiv (Cornell University)|2020. 07. 02.

Sparse and Compressive Sensing Techniques참고 문헌 31인용 수 11

한 줄 요약

이 논문은 비볼록 제약 최적화 문제에 대해 개선된 비정확 보조 라그랑주 방법(iALM)을 제안하며, 하위문제를 더 효율적으로 해결하기 위해 비정확 보조점프로젝션 방법(iPPM)을 활용한다. 이는 약간의 제약 조건에 대해 $ ilde{O}( au^{-5/2})$의 최신 복잡도 경계를 달성하고, 비볼록 제약 조건에 대해서는 $ ilde{O}( au^{-3})$의 복잡도를 달성한다. 이는 이론적으로 페널티 방법과 동일하지만 실무에서는 훨씬 뛰어난 성능을 보인다.

ABSTRACT

First-order methods have been studied for nonlinear constrained optimization within the framework of the augmented Lagrangian method (ALM) or penalty method. We propose an improved inexact ALM (iALM) and conduct a unified analysis for nonconvex problems with either affine equality or nonconvex constraints. Under certain regularity conditions (that are also assumed by existing works), we show an $ ilde{O}(\varepsilon^{-\frac{5}{2}})$ complexity result for a problem with a nonconvex objective and affine equality constraints and an $ ilde{O}(\varepsilon^{-3})$ complexity result for a problem with a nonconvex objective and nonconvex constraints, where the complexity is measured by the number of first-order oracles to yield an $\varepsilon$-KKT solution. Both results are the best known. The same-order complexity results have been achieved by penalty methods. However, two different analysis techniques are used to obtain the results, and more importantly, the penalty methods generally perform significantly worse than iALM in practice. Our improved iALM and analysis close the gap between theory and practice. Numerical experiments on nonconvex problems with affine equality or nonconvex constraints are provided to demonstrate the effectiveness of our proposed method.

연구 동기 및 목표

• 비볼록 제약 최적화 문제의 1차 방법에서 이론적 복잡도 경계와 실용적 성능 사이의 격차를 메우기 위해.
• 비볼록 환경에서 보조 라그랑주 프레임워크의 하위문제 해결을 더 안정적이고 효율적으로 개발하기 위해.
• 비볼록 문제에 대해 약간의 등식 제약 조건 또는 일반적인 비볼록 제약 조건이 있는 경우 최적의 반복 복잡도를 달성하기 위해.
• 비볼록 문제에 대한 표준 정규 조건 하에서 비정확 보조 라그랑주 방법의 분석을 통합하기 위해.
• 기존의 iALM 및 페널티 기반 방법과 비교해 뛰어난 경험적 성능을 입증하기 위해.

제안 방법

• 기존 iALM에서 사용하는 안정성이 떨어지는 가속 기반 접근 방식을 대체하기 위해, 보조 라그랑주 하위문제를 해결하기 위한 새로운 비정확 보조점프로젝션 방법(iPPM)을 제안한다.
• iPPM을 보조 라그랑주 프레임워크에 통합하여 각 반복에서 보조 라그랑주 함수를 효율적이고 안정적으로 최소화할 수 있도록 한다.
• iPPM이 생성하는 변형된 강력한 볼록 하위문제를 해결하기 위해 네스테로프의 가속 1차 방법을 사용한다.
• 비볼록 제약 조건과 약간의 등식 제약 조건에 대해 표준 정규 조건 하에서 통합된 수렴 분석을 적용하여 반복 복잡도 경계를 도출한다.
• 보조 매개변수를 적응적으로 조정하고 전역 수렴을 보장하기 위해 선 탐색 전략을 적용한다.
• 이중 업데이트 동안 보조 라그랑주 함수의 충분한 감소를 유지하기 위해 백트래킹 기법을 구현한다.

실험 결과

연구 질문

• RQ1 약간의 등식 제약 조건이 있는 비볼록 문제에 대해 최적의 반복 복잡도를 달성하는 비정확 ALM를 설계할 수 있는가?
• RQ2 최적의 수렴 속도를 유지하면서 비볼록 제약 조건로의 복잡도 분석을 확장할 수 있는가?
• RQ3 왜 페널티 방법은 최적의 복잡도를 달성하지만 실무에서는 iALM보다 성능이 열 劣하는가?
• RQ4 더 안정적인 하위문제 해결 방법이 이론적 보장을 희생시키지 않고도 iALM의 실용적 성능을 향상시킬 수 있는가?
• RQ5 네스테로프의 가속 기법을 비볼록 최소화와 조합했을 때 수렴 안정성에 어떤 영향을 미치는가?

주요 결과

• 제안된 iALM는 약간의 등식 제약 조건이 있는 비볼록 문제에 대해 $\tilde{O}(\tau^{-5/2})$의 복잡도를 달성하며, 이는 최고의 이론적 경계와 일치한다.
• 비볼록 제약 조건에 대해서는 $\tilde{O}(\tau^{-3})$의 복잡도를 달성하며, 이는 현재 알려진 최고 수준이며 이론적으로 페널티 기반 방법과 동일하다.
• 수치 실험 결과, 제안된 iALM는 사힌 등(2019)의 iALM보다 상당히 뛰어나며, 벤치마크 문제에서 반복 횟수와 소요 시간을 최대 5–10배 감소시켰다.
• 역행성 위반 경로를 통해 iPPM 기반 하위문제 해결 방법이 사힌 등(2019)의 가속 기반 접근 방식보다 더 빠르고 안정적으로 수렴하는 것으로 나타났다.
• 일반화된 고유값 문제(n=1000)에서, 제안된 방법은 평균 타당성 잔차 3.52e-4와 이중성 갭 9.03e-4를 30,376회의 반복 안에 달성했으며, 기준 iALM는 139,823회의 반복을 필요로 했다.
• 대규모 LCQP 문제(n=1000, m=100)에서, 제안된 iALM는 280,500회 기울기 평가 안에 해를 도달했고, iPPP 방법은 1,644,496회의 평가를 필요로 했다.