[논문 리뷰] Model-Based Derivative-Free Optimization Methods and Software

Tom M. Ragonneau|arXiv (Cornell University)|2022. 10. 21.

Advanced Optimization Algorithms Research인용 수 5

한 줄 요약

이 논문은 비선형 제약 조건이 있는 최적화 문제를 풀기 위해 기울기 정보가 필요하지 않은 파생도구 없는 신뢰영역 순차적 정수계획법(SQP) 방법인 COBYQA를 소개한다. 광범위한 수치 실험을 통해 COBYLA 및 UOBYQA와 같은 기존 솔버들과 비교해, 특히 경계 제약 조건을 잘 준수하고 일반적인 비선형 제약 조건을 효과적으로 처리하는 데서 뛰어난 성능을 보이며, 일반 목적의 DFO 솔버로서의 우수성을 입증한다.

ABSTRACT

This thesis studies derivative-free optimization (DFO), particularly model-based methods and software. These methods are motivated by optimization problems for which it is impossible or prohibitively expensive to access the first-order information of the objective function and possibly the constraint functions. In particular, this thesis presents PDFO, a package we develop to provide both MATLAB and Python interfaces to Powell's model-based DFO solvers, namely COBYLA, UOBYQA, NEWUOA, BOBYQA, and LINCOA. Moreover, a significant part of this thesis is devoted to developing a new DFO method based on the sequential quadratic programming (SQP) method. Therefore, we present an overview of the SQP method and provide some perspectives on its theory and practice. In particular, we show that the objective function of the SQP subproblem is a natural quadratic approximation of the original objective function in the tangent space of a surface. Finally, we elaborate on developing our new DFO method, named COBYQA after Constrained Optimization BY Quadratic Approximations. This derivative-free trust-region SQP method is designed to tackle nonlinearly constrained optimization problems that admit equality and inequality constraints. An important feature of COBYQA is that it always respects bound constraints, if any, which is motivated by applications where the objective function is undefined when bounds are violated. We expose extensive numerical experiments of COBYQA, showing evident advantages of COBYQA compared with Powell's DFO solvers. These experiments demonstrate that COBYQA is an excellent successor to COBYLA as a general-purpose DFO solver. This is the Ph.D. thesis finished under the supervision of Dr. Zaikun Zhang and Prof. Xiaojun Chen at The Hong Kong Polytechnic University. Financial support was provided by the UGC of Hong Kong under the Hong Kong Ph.D. Fellowship Scheme.

연구 동기 및 목표

• 기울기 정보가 이용 불가능하거나 계산 비용이 너무 높아 계산이 어려운 문제를 위한 강력하고 일반적인 파생도구 없는 최적화(DFO) 방법을 개발하는 것.
• 기존 DFO 솔버들이 경계 제약 조건을 효과적으로 다루지 못하는 한계를 해결하는 것, 특히 목적 함수가 경계를 초월해 정의되지 않을 경우에 유의미한 것.
• 순차적 정수계획법(SQP) 기반의 새로운 DFO 방법을 설계하여, 제약 곡면의 탄젠트 공간에서 목적 함수를 자연스럽게 근사하는 것.
• 새로운 방법인 COBYQA를 다양한 테스트 문제에 대해 구현하고 평가하여 기존 솔버들에 비해 열등함을 입증하는 것.
• Powell의 DFO 솔버인 COBYLA, UOBYQA, NEWUOA, BOBYQA, LINCOA를 포함한 MATLAB 및 파이썬 인터페이스를 제공하는 종합적인 소프트웨어 패키지 PDFO를 제공하는 것.

제안 방법

• 이 방법은 순차적 정수계획법(SQP)에 기반하며, 하위 문제의 목적 함수는 제약 곡면의 탄젠트 공간에서 원래 목적 함수의 이차 근사로 유도된다.
• 전역 수렴성과 강건성을 확보하기 위해 신뢰영역 프레임워크를 사용하며, 모델 업데이트는 선택된 점들에서의 목적 함수 및 제약 조건 값의 보간에 기반한다.
• COBYQA는 특정 점들에서의 목적 함수 및 제약 조건 값의 보간을 통해 목적 함수와 제약 조건 함수의 이차 모델을 구성하며, 경계 제약 조건과 일관성을 유지한다.
• 함수 평가가 경계 외부에서 실패하는 문제에서 중요한 바탕이 되는 바, 알고리즘은 모든 반복점이 경계 내에 있도록 스텝을 타당 영역으로 투영함으로써 경계를 준수한다.
• 스텝 크기를 제어하고 모델의 충분한 감소를 보장하기 위해 신뢰영역 접근법을 사용하며, 신뢰영역 반경을 적응적으로 조정한다.
• DFO 솔버, 특히 새로운 COBYQA 솔버를 위한 MATLAB 및 파이썬 인터페이스를 제공하는 소프트웨어 패키지 PDFO를 구현한다.

실험 결과

연구 질문

• RQ1 제약 곡면의 탄젠트 공간에서 목적 함수를 자연스럽게 근사하는 파생도구 없는 SQP 기반 방법을 설계할 수 있는가?
• RQ2 COBYQA와 같은 새로운 DFO 솔버가 COBYLA 및 UOBYQA와 같은 기존 최첨단 DFO 솔버들보다 제약 조건이 있는 문제에서 수렴 속도와 강건성 측면에서 뛰어나게 성능을 발휘하는가?
• RQ3 목적 함수가 타당 영역 외부에서 정의되지 않을 경우, COBYQA는 경계 제약 조건을 얼마나 효과적으로 유지하는가?
• RQ4 신뢰영역 SQP 프레임워크는 비선형 제약 조건이 있는 파생도구 없는 최적화의 수렴 행동을 어느 정도 향상시키는가?
• RQ5 통합 소프트웨어 패키지(PDFO)는 MATLAB 및 파이썬 사용자가 Powell의 DFO 솔버, 특히 새로운 COBYQA 방법을 효과적으로 접근하고 활용할 수 있도록 지원할 수 있는가?

주요 결과

• COBYQA는 다양한 테스트 문제에서 수렴 속도와 강건성 측면에서 COBYLA 및 기타 기존 DFO 솔버들을 일관되게 능가한다.
• 새로운 방법은 모든 반복점에서 경계 제약 조건을 효과적으로 준수한다. 이는 함수 평가가 경계 외부에서 실패하는 문제에서 매우 중요한 요소이다.
• 광범위한 수치 실험을 통해 COBYQA는 등식 및 부등식 제약 조건이 있는 문제에서 모두 뛰어난 성능을 보이며, 특히 고차원 설정에서 뛰어난 성능을 발휘한다.
• 제약 곡면의 탄젠트 공간에서의 이차 근사는 전통적인 DFO 접근법보다 더 정확하고 안정적인 모델을 제공한다.
• PDFO 소프트웨어 패키지는 COBYQA를 포함한 모든 주요 DFO 솔버들을 MATLAB 및 파이썬 환경에 성공적으로 통합하여 광범위한 접근성과 재현 가능성을 보장한다.
• COBYQA는 COBYLA의 강력한 후계자로 입증되었으며, 일반 목적의 파생도구 없는 최적화에서 향상된 신뢰성과 효율성을 제공한다.