[논문 리뷰] A trust-region method for derivative-free nonlinear constrained stochastic optimization

Menhorn, F., F. Augustin외 2명|arXiv (Cornell University)|2017. 03. 12.

Advanced Multi-Objective Optimization Algorithms참고 문헌 47인용 수 11

한 줄 요약

이 논문은 불확실성 하에서 비선형 제약 조건이 있는 확률적 최적화를 위한 도함수 기반의 신뢰영역 최적화 방법인 (S)NOWPAC을 소개한다. 이 방법은 국소적 완전 2차 근사 모델과 가우시안 프로세스 근사 모델을 결합하여 블랙박스 목적 함수 및 제약 조건 평가의 노이즈를 감소시켜, 기존 방법에 비해 더 높은 정확도와 타당성으로 안정적인 수렴을 가능하게 한다.

ABSTRACT

In this work we introduce the stochastic nonlinear constrained derivative-free optimization method (S)NOWPAC (Stochastic Nonlinear Optimization With Path-Augmented Constraints). The method extends the derivative-free optimizer NOWPAC to be applicable for optimization under uncertainty. It is based on a trust-region framework, utilizing local fully quadratic surrogate models combined with Gaussian process surrogates to mitigate the noise in the objective function and constraint evaluations. We show the performance of our algorithm on a variety of robust optimization problems from the CUTEst benchmark suite by comparing to other state-of-the-art optimization methods. Although we focus on robust optimization benchmark problems to demonstrate (S)NOWPAC's capabilities, the optimizer can be applied to a broad range of applications in nonlinear constrained stochastic optimization.

연구 동기 및 목표

• 목적 함수와 제약 조건이 노이즈가 있는 블랙박스 함수이며 도함수에 접근할 수 없는 경우에 비선형 제약 조건 최적화 문제를 해결하는 것.
• 모의실험 적용 사례(예: 변동하는 바람과 센서 노이즈 하에서 풍력발전소 제어)에서 불확실성을 다룰 수 있는 강력한 최적화 프레임워크를 개발하는 것.
• 가우시안 프로세스 모델을 활용하여 노이즈를 감소시키고 평가를 보정함으로써 도함수 기반 최적화의 수렴성과 타당성을 향상시키는 것.
• 신뢰영역 방법과 근사 모델링 및 타당성 복구를 조합하여 불확실성 하에서 효율적인 최적화를 가능하게 하는 것.
• 제한된 계산 예산 하에서 기존의 확률적 및 도함수 기반 최적화 방법에 비해 해의 품질과 제약 위반 제어 측면에서 뛰어난 성능을 내는 것.

제안 방법

• 이 방법은 목적 함수 및 제약 조건의 노이즈가 있는 블랙박스 평가를 다룰 수 있도록 기존의 도함수 기반 신뢰영역 최적화기 NOWPAC을 확장한다.
• 신뢰영역 내에서 목적 함수 및 제약 조건를 근사하기 위해 국소적 완전 2차 근사 모델을 사용하여 국소 수렴성을 향상시킨다.
• 함수 평가의 노이즈를 모델링하고 감소시키기 위해 가우시안 프로세스 근사 모델을 사용하여 더 정확하고 안정적인 최적화를 가능하게 한다.
• 근사 예측과 노이즈 추정치에 기반해 신뢰영역을 적응적으로 갱신하는 경로 증강 신뢰영역 프레임워크를 사용한다.
• 노이즈로 인한 잘못된 타당성 가정을 수정하기 위해 타당성 복구 모드를 도입한다.
• 정확도와 계산 비용의 균형을 맞추기 위해 가우시안 프로세스 하이퍼파rameter의 분석적 및 히우리스틱 스무딩을 모두 지원한다.

실험 결과

연구 질문

• RQ1 도함수 기반의 신뢰영역 방법이 확률적 최적화 문제에서 노이즈가 있는 블랙박스 목적 함수 및 제약 조건 함수를 효과적으로 다룰 수 있는가?
• RQ2 가우시안 프로세스 근사 모델을 신뢰영역 프레임워크에 통합하여 확률적 최적화에서 노이즈를 감소시키고 수렴성을 향상시킬 수 있는가?
• RQ3 근사 모델 기반의 노이즈 감소가 확률적 최적화에서 타당성과 제약 위반에 어떤 영향을 미치는가?
• RQ4 (S)NOWPAC은 기존의 확률적 및 도함수 기반 최적화 방법에 비해 해의 품질과 강건성 측면에서 어떻게 비교되는가?
• RQ5 가우시안 프로세스 근사 모델에서 분석적 스무딩과 히우리스틱 스무딩을 사용할 경우 계산 비용과 정확도 사이의 상충 관계는 어떠한가?

주요 결과

• (S)NOWPAC은 타당성 복구 메커니즘 덕분에 경쟁 방법들보다 훨씬 낮은 제약 위반을 달성하며, 종종 노이즈 수준 이하로 유지된다.
• 특히 저차원 문제에서 SPSA 및 KWSA와 같은 다른 최적화기보다 목적 함수 오차와 최적 설계 정확도 측면에서 뛰어나다.
• 테스트 문제 29 및 228에서 (S)NOWPAC의 분석적 스무딩 방법은 히우리스틱 스무딩보다 목적 함수 및 최적 설계의 상대 오차가 낮게 나타난다.
• 고차원 문제(예: 100, 113, 285)에서도 분석적 스무딩 방법은 히우리스틱 방법과 비교해 유사하거나 더 우수한 성능을 보이며 차원에 관계없이 강건함을 입증한다.
• 가우시안 프로세스 근사 모델의 사용은 노이즈 완화를 향상시키고 더 신뢰할 수 있는 수렴을 가능하게 하여, 단순히 확률적 근사나 반복 평가에 의존하는 방법보다 뛰어난 성능을 보인다.
• SoR, DTC, FITC와 같은 근사 가우시안 프로세스 방법을 통해 전역 GP 평가 비용을 줄여 계산 효율성을 유지하면서도 성능을 유지한다.