[논문 리뷰] Worst-Case Complexity of an SQP Method for Nonlinear Equality Constrained Stochastic Optimization

Frank E. Curtis, Michael J. O’Neill외 1명|arXiv (Cornell University)|2021. 12. 29.

Stochastic Gradient Optimization Techniques인용 수 4

한 줄 요약

이 논문은 비선형 등식 제약 조건이 있는 비선형 최적화 문제에 대해 확률적 목적 함수를 갖는 확률적 순차적 정수계획법(SQP) 방법의 최악의 경우 복잡도 분석을 제시한다. 이는 이격된 미디어 매개변수를 적응적으로 업데이트하는 경우에도, 고확률적으로 ${\cal O}(\varepsilon^{-4})$의 반복 복잡도 상한을 확립한다. 이는 비제약 조건이 있는 경우에 확률적 경사하강법과 유사한 성능을 보인다.

ABSTRACT

A worst-case complexity bound is proved for a sequential quadratic optimization (commonly known as SQP) algorithm that has been designed for solving optimization problems involving a stochastic objective function and deterministic nonlinear equality constraints. Barring additional terms that arise due to the adaptivity of the monotonically nonincreasing merit parameter sequence, the proved complexity bound is comparable to that known for the stochastic gradient algorithm for unconstrained nonconvex optimization. The overall complexity bound, which accounts for the adaptivity of the merit parameter sequence, shows that a result comparable to the unconstrained setting (with additional logarithmic factors) holds with high probability.

연구 동기 및 목표

• 확률적 최적화 문제에 대해 결정론적 비선형 등식 제약 조건이 있는 SQP 방법의 최악의 경우 반복 복잡도를 분석하는 것.
• 최적화 과정에서 동적으로 변화하는 미디어 함수를 유도하는 적응형 미디어 매개변수 업데이트로 인해 발생하는 이론적 과제를 다루는 것.
• 이전에 제약 조건이 없는 경우나 단순한 제약 조건이 있는 문제에 국한되어 있던 복잡도 결과를, 확률적 등식 제약 조건이 있는 최적화 영역으로 확장하는 것.
• 적응형 미디어 매개변수 선택 하에서 수렴 속도가 제약 조건이 없는 확률적 경사하강법과 유사함을 보여주는 것, 로그 인자 수준까지는 동일하다.
• 확률적 기울기 추정치와 미디어 매개변수의 적응성에 기인한 불확실성을 고려한 고확률 복잡도 상한을 제공하는 것.

제안 방법

• 충분한 감소를 확보하기 위해 미디어 함수에 대해 선 탐색을 사용하며, 이 과정에서 미디어 매개변수 수열을 단조 감소 방향으로 적응적으로 업데이트한다.
• 정확한 기울기 대신 확률적 기울기 추정치를 사용하며, 이는 분산이 유한하다는 가정을 통해 대규모 문제나 시뮬레이션 기반 문제에 적용 가능하게 한다.
• 서브문제를 통해 최적성의 1차 조건을 순차적으로 정수계획법으로 근사하여 해결한다.
• 목적 함수 개선과 제약 위반을 균형 잡기 위해 미디어 함수를 사용하며, 진행 상황에 따라 적응적으로 매개변수를 업데이트한다.
• 조건부 기대값과 尾 확률 한계를 활용한 확률적 근사 프레임워크를 통해 적응적 매개변수 업데이트의 영향을 통제한다.
• 핵심 기술 도구로는 기울기 단계의 부호와 미디어 매개변수 업데이트와 관련된 세 가지 별개의 사건을 다루기 위한 수정된 보조정리들이 있으며, 이는 유니온 바운드를 통합하여 고확률 결과를 유도한다.

실험 결과

연구 질문

• RQ1 적응형 미디어 매개변수 업데이트를 포함한 확률적 등식 제약 조건이 있는 최적화 문제에 적용된 SQP 방법의 최악의 경우 반복 복잡도는 무엇인가?
• RQ2 미디어 매개변수가 알려져 있지 않고 적응적으로 업데이트되는 경우, 알려진 임계값을 가진 이상적인 경우에 비해 복잡도 상한은 어떻게 변화하는가?
• RQ3 확률적 기울기 추정치와 동적인 미디어 함수로 인해 발생하는 불확실성에도 불구하고, 확률적 SQP 방법의 수렴 속도를 고확률적으로 상한화할 수 있는가?
• RQ4 미디어 매개변수 수열의 적응성은 수렴 속도에 어떤 영향을 미치며, 이로 인해 제약 조건이 없는 확률적 경사하강법의 성능 상한과 비교해도 여전히 유사한가?
• RQ5 이 연구에서 개발된 분석 기법은 페널티, 증강 라그랑주, 내부점법과 같은 다른 적응형 방법으로 일반화 가능한가? 비제약 조건이 있는 확률 최적화 문제에 적용 가능한가?

주요 결과

• 적응형 SQP 방법의 최악의 경우 복잡도 상한은 ${\cal O}(\varepsilon^{-4})$의 반복 수로, 라그랑주 함수의 기대 기울기 노름과 제약 위반 값이 모두 $\mathcal{O}(\varepsilon)$이 되는 점에 도달하는 데 고확률적으로 성립한다.
• 복잡도 상한은 비제약 조건이 있는 비볼록 설정에서의 확률적 경사하강법과 유사하며, 적응형 미디어 매개변수 수열로 인한 로그 인자 수준까지는 동일하다.
• 고확률 보장은 주로 적응형 미디어 매개변수 업데이트의 불확실성에서 기인하며, 확률적 기울기 추정치 자체에서 기인하지 않는다.
• 분석을 통해 방법이 프리마르 및 듀얼 정류성 측정치를 $k^{-4}$의 속도로 감소시킴을 입증하였으며, 로그 항은 무시한다.
• 기본적인 가정 조건을 충족할 경우, 즉 확률적 기울기의 분산이 유한하고 목적 함수 및 제약 함수의 리프시츠 연속성 조건이 만족될 경우 성립한다.
• 이론적 프레임워크는 페널티, 증강 라그랑주, 내부점법과 같은 다른 적응형 방법으로도 일반화 가능하며, 동적 매개변수 수열을 일반적으로 다루는 방식 덕분이다.