[논문 리뷰] Adaptive Regularization for Nonconvex Optimization Using Inexact Function Values and Randomly Perturbed Derivatives

Stefania Bellavia, Gianmarco Gurioli외 2명|arXiv (Cornell University)|2020. 05. 10.

Sparse and Compressive Sensing Techniques참고 문헌 28인용 수 4

한 줄 요약

이 논문은 비볼록 최적화 문제에 대해 함수 값의 부정확성과 무작위로 편향된 도함수를 다룰 수 있는 적응형 정규화 알고리즘을 제안한다. 이 알고리즘은 기대값 기준으로 최적의 평가 복잡도 한계를 확보하며, $q \leq 2$인 경우 $O(\epsilon^{-(p+1)/(p-q+1)})$회의 평가로 약한 $q$-차수 임계점에 도달하고, $q > 2$인 경우 $O(\epsilon^{-q(p+1)/p})$회의 평가를 필요로 한다. 이러한 복잡도 한계는 정확도 허용 오차의 순서에서 정확하다.

ABSTRACT

A regularization algorithm allowing random noise in derivatives and inexact function values is proposed for computing approximate local critical points of any order for smooth unconstrained optimization problems. For an objective function with Lipschitz continuous $p$-th derivative and given an arbitrary optimality order $q \leq p$, it is shown that this algorithm will, in expectation, compute such a point in at most $O\left(\left(\min_{j\in\{1,\ldots,q\}}ε_j ight)^{-\frac{p+1}{p-q+1}} ight)$ inexact evaluations of $f$ and its derivatives whenever $q\in\{1,2\}$, where $ε_j$ is the tolerance for $j$th order accuracy. This bound becomes at most $O\left(\left(\min_{j\in\{1,\ldots,q\}}ε_j ight)^{-\frac{q(p+1)}{p}} ight)$ inexact evaluations if $q>2$ and all derivatives are Lipschitz continuous. Moreover these bounds are sharp in the order of the accuracy tolerances. An extension to convexly constrained problems is also outlined.

연구 동기 및 목표

• 부정확한 함수 및 도함수 평가 조건 하에서 부드러운 비볼록 최적화 문제의 임의의 차수의 근사 국소 임계점을 계산할 수 있는 정규화 알고리즘을 개발하는 것.
• 함수 값과 도함수가 랜덤 노이즈와 부정확성에 영향을 받을 경우, 이러한 알고리즘의 평가 복잡도를 분석하는 것.
• 노이즈와 도함수 정확도에 대한 약한 가정 하에, 정확한 평가 조건에서 알려진 복잡도 한계와 일치하는 날카운 worst-case 복잡도 한계를 기대값 기준으로 확립하는 것.
• 제약 조건이 있는 최적화 문제에 이 프레임워크를 확장하면서도 복잡도 보장을 유지하는 것.

제안 방법

• 알고리즘은 신뢰영역 유사 프레임워크를 사용하는 적응형 정규화를 적용하며, 부정확한 함수 및 도함수 정보에 기반해 모델 정확도를 동적으로 조정한다.
• 무작위로 근사된 도함수 기반의 확률적 정지 기준을 정의하여, 유한한 노이즈 조건 하에서도 타당성과 수렴성을 보장한다.
• 부정확성 요소를 고려한 새로운 모델 향상 함수 $\phi_{f,j}^{\delta_j}(x)$의 정의를 도입하여, 모델의 최악의 감소를 제한한다.
• 선형 탐색 또는 신뢰영역 단계 선택 전략을 사용하여, 노이즈가 있는 도함수 조건 하에서도 타당성 유지와 충분한 모델 감소를 보장한다.
• 이론적 분석은 부정확한 적응형 정규화(IAR) 프레임워크의 수정된 버전을 사용하며, $p$-번째 도함수의 리프시츠 연속성과 함수 값 및 도함수의 노이즈가 유한함을 가정한다.
• 제약 조건이 있는 문제에 대해서는 각 반복 단계에서 타당성을 유지하고, 반복의 제약 조건 특성을 반영하기 위해 정지 기준을 수정한다.

실험 결과

연구 질문

• RQ1 함수 값과 도함수가 부정확하고 랜덤 노이즈에 영향을 받을 경우, 적응형 정규화 알고리즘의 평가 복잡도는 어떻게 되는가?
• RQ2 노이즈가 있는 도함수와 함수 평가 조건 하에서도, 정확한 알고리즘의 복잡도 한계와 일치하는 복잡도 한계를 알고리즘이 기대값 기준으로 확보할 수 있는가?
• RQ3 복잡도는 찾고자 하는 임계점의 차수 $q$와 목적 함수의 스무스함 수준 $p$에 따라 어떻게 달라지는가?
• RQ4 부정확한 데이터 조건 하에서, 이론적 복잡도 한계를 제약 조건이 있는 최적화 문제로 확장할 수 있는가?
• RQ5 유도된 복잡도 한계는 정확도 허용 오차 $\epsilon$의 순서에서 정확한가?

주요 결과

• 함수 값과 도함수의 부정확한 평가 조건 하에서, $q \in \{1,2\}$일 경우 알고리즘은 기대값 기준으로 최대 $O(\epsilon^{-(p+1)/(p-q+1)})$회의 부정확한 평가로 $(\epsilon,\delta)$-근사 $q$-차수 최소화점을 도출하며, 이는 정확한 평가 조건에서 알려진 복잡도와 일치한다.
• 일반적으로 $q > 2$일 경우, 평가 횟수의 기대값은 $O(\epsilon^{-q(p+1)/p})$로 유계이며, 이 역시 $\epsilon$의 순서에서 정확하다.
• 복잡도 한계는 정확한 도함수 및 함수 평가 조건에서 알려진 최고의 한계와 일치하므로, 랜덤 편향 조건 하에서도 최적임을 의미한다.
• 분석 결과, 도함수 근사의 정확도 확률이 충분히 높을 경우, 알고리즘이 정확한 경우와 동일한 순서의 복잡도를 유지함을 보여준다.
• 제약 조건이 있는 문제로의 확장은 동일한 복잡도 한계를 유지하며, 정지 기준과 타당성 유지 방법을 수정함으로써 가능하다.
• 결과는 다음과 같은 약한 가정 하에 성립한다: $p$-번째 도함수의 리프시츠 연속성과 함수 및 도함수 평가에서 독립적이고 유한한 노이즈.