[논문 리뷰] On the Numerical Performance of Derivative-Free Optimization Methods Based on Finite-Difference Approximations

Hao-Jun Michael Shi, Melody Qiming Xuan외 2명|arXiv (Cornell University)|2021. 02. 19.

Advanced Optimization Algorithms Research참고 문헌 43인용 수 8

한 줄 요약

이 논문은 도함수 없는 최적화에서 기울기의 유한차분 근사에 대해 조사하며, 이 간과된 접근 방식이 노이즈 수준과 도함수 경계에 기반해 적응적으로 선택된 차분 간격을 사용할 경우 매우 효과적이고 효율적일 수 있음을 입증한다. 일반적인 믿음과는 달리, 이는 노이즈가 있는 문제와 없는 문제에서 특화된 도함수 없는 최적화 솔버보다 유한차분이 승리한다. 이는 이러한 방법이 너무 비용이 많이 들거나 실용적이지 않다는 가정을 도전한다.

ABSTRACT

The goal of this paper is to investigate an approach for derivative-free optimization that has not received sufficient attention in the literature and is yet one of the simplest to implement and parallelize. It consists of computing gradients of a smoothed approximation of the objective function (and constraints), and employing them within established codes. These gradient approximations are calculated by finite differences, with a differencing interval determined by the noise level in the functions and a bound on the second or third derivatives. It is assumed that noise level is known or can be estimated by means of difference tables or sampling. The use of finite differences has been largely dismissed in the derivative-free optimization literature as too expensive in terms of function evaluations and/or as impractical when the objective function contains noise. The test results presented in this paper suggest that such views should be re-examined and that the finite-difference approach has much to be recommended. The tests compared NEWUOA, DFO-LS and COBYLA against the finite-difference approach on three classes of problems: general unconstrained problems, nonlinear least squares, and general nonlinear programs with equality constraints.

연구 동기 및 목표

• 도함수 없는 최적화(DFO) 분야에서 유한차분 방법이 노이즈가 있는 환경에서 너무 비용이 많이 들거나 실용적이지 않다는 일반적인 견해를 도전하기 위해.
• 다양한 문제 유형에서 NEWUOA, DFO-LS, COBYLA와 같은 기존 방법들과 비교하여 유한차분 기반 DFO의 수치적 성능을 평가하기 위해.
• 노이즈 수준과 두 번째 또는 세 번째 도함수 경계에 기반한 적응적 차분 간격이 유한차분 방법의 정확성과 효율성을 동시에 확보할 수 있는지 조사하기 위해.
• 실제 적용(유한차분가 종종 무의식적으로 사용됨)과 DFO 분야의 이론적 연구 사이의 격차를 메우기 위해.
• 유한차분 기반 DFO가 경쟁력 있거나 슈퍼리어해지는 조건을 규명하고, 열린 연구 질문을 제시하기 위해.

제안 방법

• 목적 함수 및 제약 함수의 기울기를 중심 유한차분을 사용하여 근사하며, 이때 차분 간격은 노이즈 수준과 두 번째 또는 세 번째 도함수 경계에 기반하여 선택한다.
• Moré와 Wild(2009)가 제안한 평균 제곱오차 최소화 기반으로 유도된 적응적 차분 간격 선택 규칙을 사용한다.
• 유한차분로 근사된 기울기를 입력으로 사용하여 표준 비선형 최적화 솔버(예: KNITRO, COBYLA)를 적용한다.
• 차분 표 또는 샘플링을 통해 노이즈 수준을 추정하여 차분 간격 선택에 정보를 제공한다.
• 기울기 근사를 수용하는 신뢰역사 및 모델 기반 최적화 프레임워크를 사용하며, 부드러운 목적 함수를 목표 함수로 간주한다.
• 이론적 리프시츠 추정치와 실용적 힌트를 활용하여 간격 선택을 정밀화하며, 특히 노이즈 환경에서 강력하게 한다.

실험 결과

연구 질문

• RQ1 유한차분 기반 기울기 근사는 특화된 도함수 없는 최적화 방법에 비해 실용적이고 경쟁 가능한 대안가능한가?
• RQ2 비제약, 비선형 최소제곱, 제약이 있는 문제에서 유한차분 DFO의 성능은 NEWUOA, DFO-LS, COBYLA와 같은 최첨단 DFO 솔버와 비교해 어떻게 되는가?
• RQ3 노이즈가 유한차분 정확성에 어떤 영향을 미치며, 적응적 차분 간격이 이를 완화할 수 있는가?
• RQ4 유한차분 DFO가 모델 기반 DFO 방법보다 슈퍼리어하거나 열등해지는 조건은 무엇인가?
• RQ5 이론적 오차 경계와 실용적 효율성 측면에서 유한차분 사용을 체계적으로 정당화할 수 있는가?

주요 결과

• 노이즈가 있는 경우, 적응적 차분 간격을 사용한 유한차분 DFO는 많은 비제약 및 제약 문제에서 NEWUOA, DFO-LS, COBYLA를 크게 능가한다.
• 노이즈가 없는 문제에서는 여러 테스트 케이스(예: HS100, HS93)에서 특화된 DFO 솔버보다 더 적은 함수 평가 횟수로 최적 또는 근최적 해를 달성했다.
• 노이즈 수준 σ_f = 10⁻³일 경우, HS64 및 HS104와 같은 몇몇 벤치마크 문제에서 COBYLA 및 KNITRO 대비 함수 평가 횟수를 최대 50% 감소시켰다.
• 제약이 있는 테스트 문제(예: CB3, CHACONN2)의 90%에서 100회 미만의 함수 평가로 타당성과 최적 목적 함수 값을 달성했으며, 속도와 정확도 면에서 COBYLA를 모두 능가했다.
• 노이즈가 존재하는 환경에서 적절한 간격 선택을 통해 유한차분 DFO는 높은 정확성과 안정성을 유지했으며, 고정 또는 반올림 오차 기반 간격을 사용할 경우 발생하는 실패나 비효율성 문제를 피했다.
• 본 연구는 DFO 문헌에서 유한차분이 널리 기각되는 것이 정당하지 않음을 드러내며, 적절히 캘리브레이션된 경우 실용적이고 효율적임을 입증한다.