[논문 리뷰] A Sequential Quadratic Programming Method with High Probability Complexity Bounds for Nonlinear Equality Constrained Stochastic Optimization

Albert S. Berahas, Miaolan Xie외 1명|arXiv (Cornell University)|2023. 01. 01.

Risk and Portfolio OptimizationDecision Sciences인용 수 3

한 줄 요약

이 논문은 비선형 등식 제약 조건을 가진 확률적 최적화 문제를 위한 단계 탐색 순차적 정수계획법(SS-SQP) 방법을 제안한다. 여기서 목적 함수 및 그 그래디언트 값은 오직 비정확한 확률적 제0차 및 제1차 오라클을 통해 접근 가능하다. 합리적인 가정 하에, $ \varepsilon $-일阶 정류성에 도달하기 위한 높은 확률의 반복 복잡도 한계를 $ O(\varepsilon^{-2}) $로 확립하며, 이는 결정론적 SQP 성능을 따라가며 편향되고 노이즈가 있는 추정치에 대해 강건함을 보여준다.

ABSTRACT

A step-search sequential quadratic programming method is proposed for solving nonlinear equality constrained stochastic optimization problems. It is assumed that constraint function values and derivatives are available, but only stochastic approximations of the objective function and its associated derivatives can be computed via inexact probabilistic zeroth- and first-order oracles. Under reasonable assumptions, a high-probability bound on the iteration complexity of the algorithm to approximate first-order stationarity is derived. Numerical results on standard nonlinear optimization test problems illustrate the advantages and limitations of our proposed method.

연구 동기 및 목표

• 목적 함수와 그 그래디언트에 대한 접근이 오직 비정확한 확률적 오라클을 통해 가능할 때, 비선형 등식 제약 조건 문제를 위한 강건한 최적화 알고리즘을 개발하는 것.
• 편향된 오라클 추정치를 포함한 일반적인 가정 하에, 첫째 단계 정류성 수렴에 대한 높은 확률의 반복 복잡도 한계를 설정하는 것.
• 직접적으로 제약 조건을 다루고 신뢰할 수 있는 제약 조건 정보를 활용하면서 노이즈가 있는 목적 함수 평가를 관리함으로써 기존의 확률적 페널티 및 프로젝션 방법을 개선하는 것.
• 정확한 제약 조건 데이터와 함께 확률적 목적 함수 추정치를 사용하는 단계 탐색 SQP 프레임워크 내에서의 효용성을 입증하는 것.
• 결정론적 SQP 복잡도를 따라가며 현실적인 확률적 설정(신뢰할 수 없는 함수 및 그래디언트 평가)에 적용 가능한 이론적 보장을 제공하는 것.

제안 방법

• 알고리즘은 표준 선형 탐색 방법과 달리 백트래킹 중에 탐색 방향을 조정할 수 있도록 허용하는 단계 탐색 전략을 순차적 정수계획법 프레임워크 내에 사용한다.
• 각 반복 단계에서 정확한 제약 조건 값 $ c(x) $ 와 $ \nabla c(x)^T $ 를 사용하여 이차 하위문제를 해결하지만, $ f(x) $ 와 $ \nabla f(x) $ 는 비정확한 확률적 오라클에 의존한다.
• 비정확한 오라클은 정확도와 신뢰성을 제어하는 매개변수를 포함하며, 편향된 추정치를 허용하며, 제어된 오차 분포를 가진 랜덤 변수로 모델링된다.
• 보상 함수는 타당성과 최적성의 복합 측도에서의 충분한 감소를 보장하기 위해 스텝 크기 선택을 안내한다.
• 노이즈가 있는 목적 함수 추정치에도 불구하고 보상 함수의 충분한 감소를 보장하기 위해 적응형 백트래킹을 통합한다.
• 이론적 분석은 오라클 오차의 확률적 한계에 기반하며, 유한한 헤시안 행렬과 그래디언트의 리프시츠 연속성과 같은 표준 정규성 조건을 가정한다.

실험 결과

연구 질문

• RQ1 비정확한 목적 함수 및 그래디언트 평가를 가진 비선형 등식 제약 조건을 가진 확률적 최적화 문제에서, 단계 탐색 SQP 방법이 첫째 단계 정류성에 대해 높은 확률의 반복 복잡도 한계를 달성할 수 있는가?
• RQ2 함수 및 그래디언트 추정치가 모두 노이즈가 날 때, 제안된 SS-SQP 방법의 성능은 목적 함수에 의존하지 않는 대안들과 비교해 어떻게 되는가?
• RQ3 편향되거나 노이즈가 있는 목적 함수 평가가 제0차 정보에 의존하는 SQP 방법의 수렴성과 강건성에 어떤 영향을 미치는가?
• RQ4 정확한 제약 조건 정보의 가용성이, 오직 확률적 목적 함수 근사에 의존하는 방법과 비교해 수렴성 향상에 크게 기여하는 조건은 무엇인가?
• RQ5 실제적인 확률적 오라클 가정 하에, 제안된 방법의 반복 복잡도가 결정론적 SQP 방법의 복잡도를 따라갈 수 있는가?

주요 결과

• 제안된 SS-SQP 방법은 $ \varepsilon $-일阶 정류성에 도달하기 위한 높은 확률의 반복 복잡도 한계를 $ O(\varepsilon^{-2}) $로 달성하며, 이는 결정론적 SQP 복잡도와 일치한다.
• 수치 결과는 목적 함수 노이즈가 그래디언트 노이즈에 비해 낮을 때, SS-SQP가 목적 함수에 의존하지 않는 방법(AS-SQP)보다 KKT 오차와 타당성 측면에서 뛰어난 성능을 보임을 보여준다.
• 그래디언트 노이즈가 증가함에 따라, SS-SQP와 AS-SQP 사이의 성능 격차는 SS-SQP 쪽으로 더욱 벌어지며, 정확한 제약 조건 정보의 이점이 뚜렷하게 드러난다.
• 목적 함수 평가에서 매우 높은 노이즈가 발생할 경우, AS-SQP가 더 경쟁력 있게 되며, 이러한 영역에서 목적 함수에 의존하지 않는 접근 방식의 강건성을 입증한다.
• 이 방법은 다양한 노이즈 수준에서 우수한 성능를 유지하며, 성능 프로파일은 중간에서 낮은 노이즈 조건에서 뛰어난 강건성과 효율성을 보여준다.
• 결과는 신뢰할 수 있는 목적 함수 정보가 특히 그래디언트 추정치가 노이즈가 많거나 편향되어 있을 때 수렴성을 크게 향상시킨다는 것을 확인한다.