[논문 리뷰] The proximal point method revisited

Dmitriy Drusvyatskiy|arXiv (Cornell University)|2017. 12. 17.

Numerical methods in inverse problems참고 문헌 52인용 수 33

한 줄 요약

이 논문은 대규모 최적화를 위한 실용적이고 이론적으로 타당한 프레임워크로 보조점법을 재검토하며, 약한 볼록(stochastic approximation) 문제, 복합 볼록-매끄러운 최소화를 위한 프록시-선형 방법, 그리고 Catalyst 프레임워크를 통한 정규화된 경험 리스크 최소화의 일반적 가속화에서의 역할을 입증한다. 주요 기여는 보조점법이 전통적인 개념적 역할을 넘어서는 증명 가능하고 해석 가능하며 실행 가능한 알고리즘을 도출할 수 있음을 보여주는 것이다.

ABSTRACT

In this short survey, I revisit the role of the proximal point method in large scale optimization. I focus on three recent examples: a proximally guided subgradient method for weakly convex stochastic approximation, the prox-linear algorithm for minimizing compositions of convex functions and smooth maps, and Catalyst generic acceleration for regularized Empirical Risk Minimization.

연구 동기 및 목표

• 보조점법을 최적화에서 전통적인 개념적 역할을 넘어서 실용적인 알고리즘 프레임워크로 재평가하는 것.
• 보조점법이 현대의 대규모 문제를 위한 효율적인 수치 알고리즘 설계 및 분석을 어떻게 이끌 수 있는지 보여주는 것.
• 보조점법을 통한 알고리즘이 약한 볼록 확률적 최적화 및 정규화된 경험 리스크 최소화와 같은 설정에서 빠른 수렴 속도를 보이며 명확한 이론적 보장을 갖는다는 것을 보여주는 것.
• 보조점법 이론의 시각에서 최근의 가속화 및 서브기울기 방법의 발전을 통합하고 일반화하는 것.

제안 방법

• 정규화된 보조하나의 하위문제를 풀기 위한 이차 페널티를 포함하는 보조점 반복: $ x_{t+1} \in \mathrm{prox}_{\nu f}(x_t) $.
• 함수 $ f $의 매끄럽고 근사된 형태인 모레우 환경 $ f_\nu(z) = \inf_x \{ f(x) + \frac{1}{2\nu}\|x - z\|^2 \} $ 를 활용하여 기울기 기반 방법을 가능하게 한다.
• 보조점법을 $ \rho $-약한 볼록 함수에 적용하며, 여기서 $ f(x) + \frac{\rho}{2}\|x\|^2 $ 가 볼록임을 보장하고 $ \nu < \rho^{-1} $ 일 때 하위문제가 볼록이 되도록 한다.
• 기울기 공식 $ \nabla f_\nu(x) = \nu^{-1}(x - \mathrm{prox}_{\nu f}(x)) $ 를 사용하여 보조점 단계를 모레우 환경 상의 기울기 하강법과 연결한다.
• 정규화된 경험 리스크 최소화를 위한 분산 감소 방법에 보조점 아이디어를 적용하는 일반적인 가속화 체계인 Catalyst 프레임워크를 도입하며, 반복 복잡도 향상을 달성한다.
• 관성과 운동량을 보조점 맥락에서 활용하여 비볼록 및 약한 볼록 문제의 수렴 속도를 가속화하며, 수렴 속도에 대한 이론적 보장을 제공한다.

실험 결과

연구 질문

• RQ1 보조점법은 대규모 최적화 문제에 대해 실용적이고 증명 가능한 수렴성을 갖는 알고리즘을 설계하는 데 사용될 수 있는가?
• RQ2 보조점법은 확률적 및 복합 최적화에서 나타나는 약한 볼록 함수를 다루기 위해 어떻게 조정될 수 있는가?
• RQ3 정규화된 경험 리스크 최소화에서의 가속화를 가능하게 하는 보조점 정규화의 역할은 무엇인가?
• RQ4 보조점법 프레임워크는 머신러닝에서 존재하는 분산 감소 방법들을 통합하고 가속화할 수 있는가?
• RQ5 관성과 보조점 단계의 조합은 비볼록 및 약한 볼록 설정에서 수렴을 어떻게 향상시키는가?

주요 결과

• 적절한 매개변수 선택과 반복적 해법을 결합한 보조점법은 대규모 최적화에 대해 실용적이고 이론적으로 타당한 알고리즘을 도출한다.
• $ \rho $-약한 볼록 함수에 대해 $ \nu < \rho^{-1} $ 라면 보조점 하위문제가 볼록이 되며, 표준 방법을 통해 효율적으로 해결 가능하다.
• 모레우 환경 $ f_\nu $ 는 $ C^1 $-매끄럽고, 보조점 반복은 $ f_\nu $ 상의 기울기 하강법과 동일하며, $ \|x_t - x_{t+1}\| $ 를 통해 자연스러운 종료 기준을 제공한다.
• Catalyst 프레임워크는 $ \widetilde{O}\left(\frac{\sqrt{\mu + \kappa}}{\tau \sqrt{\mu}} \ln(1/\varepsilon)\right) $ 의 복잡도를 달성하여 분산 감소 방법의 ERM 문제에 대한 가속화를 가능하게 한다.
• 복합 볼록-매끄러운 함수의 최소화를 위한 프록시-선형 알고리즘은 온건한 조건 하에서 전역 수렴과 국소 초선형 수렴 속도를 달성한다.
• 관성과 보조점 단계의 조합은 $ C^2 $ 및 $ C^3 $ 매끄러운 비볼록 문제에서 기울기 하강법보다 증명 가능한 빠른 수렴 속도를 제공하며, 보조점법이 볼록성 이외의 영역에서도 잠재력을 지닌다는 것을 입증한다.