[논문 리뷰] A Stochastic Operator Framework for Inexact Static and Online Optimization.

Nicola Bastianello, Liam Madden외 2명|arXiv (Cornell University)|2021. 05. 20.

Sparse and Compressive Sensing Techniques참고 문헌 49인용 수 8

한 줄 요약

이 논문은 힐버트 공간 내 분리 가능한 연산자 위에서 스토하스틱 바나흐-피카르 반복을 사용하여 비정확하고 온라인 최적화 알고리즘을 분석하기 위한 통합된 스토하스틱 연산자 프레임워크를 소개한다. 하위-웨이블러 분포 오차와 무작위 좌표 업데이트 하에 점근적 수렴성과 고확률 수렴성을 보장하며, 오차나 파rameter의 점점 감소하는 조건을 필요로 하지 않으며, 온라인 최적화에서 시간에 따라 변화하는 문제로도 확장된다.

ABSTRACT

This paper provides a unified stochastic operator framework to analyze the convergence of iterative optimization algorithms for both static problems and online optimization and learning. In particular, the framework is well suited for algorithms that are implemented in an inexact or stochastic fashion because of (i) stochastic errors emerging in algorithmic steps, and because (ii) the algorithm may feature random coordinate updates. To this end, the paper focuses on separable operators of the form $T x = (T_1 x, \ldots, T_n x)$, defined over the direct sum of possibly infinite-dimensional Hilbert spaces, and investigates the convergence of the associated stochastic Banach-Picard iteration. Results in terms of convergence in mean and in high-probability are presented when the errors affecting the operator follow a sub-Weibull distribution and when updates $T_i x$ are performed based on a Bernoulli random variable. In particular, the results are derived for the cases where $T$ is contractive and averaged in terms of convergence to the unique fixed point and cumulative fixed-point residual, respectively. The results do not assume vanishing errors or vanishing parameters of the operator, as typical in the literature (this case is subsumed by the proposed framework), and links with exiting results in terms of almost sure convergence are provided. In the online optimization context, the operator changes at each iteration to reflect changes in the underlying optimization problem. This leads to an online Banach-Picard iteration, and similar results are derived where the bounds for the convergence in mean and high-probability further depend on the evolution of fixed points (i.e., optimal solutions of the time-varying optimization problem).

연구 동기 및 목표

• 정적 및 온라인 설정 모두에서 비정확성과 확률적 성격을 가진 반복 최적화 알고리즘의 분석을 통합하기 위해.
• 무한차원 힐버트 공간 위에서 분리 가능한 연산자에 적용 가능한 스토하스틱 바나흐-피카르 반복 프레임워크를 개발하기 위해.
• 오차나 연산자 파rameter의 점점 감소하는 조건을 가정하지 않고도 평균 수렴성과 고확률 수렴성을 확립하기 위해.
• 시간에 따라 변화하는 문제를 반영하기 위해 연산자 $ T $ 가 시간이 지남에 따라 변화하는 온라인 최적화로 프레임워크를 확장하기 위해.
• 기존의 거의 확실 수렴 문헌과의 연결을 통해 이전 결과를 일반화하기 위해.

제안 방법

• 프레임워크는 힐버트 공간의 직합 위에서 정의된 분리 가능한 연산자 $ T x = (T_1 x, \ldots, T_n x) $ 를 통해 최적화 알고리즘을 모델링한다.
• 각 성분 $ T_i x $ 가 베르누이 확률 변수에 기반하여 무작위로 업데이트되는 스토하스틱 바나흐-피카르 반복을 적용한다.
• 알고리즘 단계에 영향을 주는 하위-웨이블러 분포 오차 하에서 수렴성을 분석하며, 무거운 尾 비율 오차 모델을 허용한다.
• 고정점 수렴을 위한 수축 연산자와 잔여 오차 수렴을 위한 평균화 연산자 모두를 다룬다.
• 온라인 최적화의 경우 연산자 $ T $ 가 시간이 지남에 따라 변화하며, 수렴 경계는 최적 해의 경로에 따라 달라진다.
• 오차나 파rameter의 점점 감소하는 조건을 필요로 하지 않기 때문에 기존 결과를 일반화하며, 고전적 설정을 특수한 경우로 포함한다.

실험 결과

연구 질문

• RQ1 정적 및 온라인 설정 모두에서 비정확하고 확률적인 최적화 알고리즘을 분석하기 위한 통합 프레임워크는 어떻게 개발할 수 있는가?
• RQ2 하위-웨이블러 오차 분포 하에서 스토하스틱 바나흐-피카르 반복의 수렴 보장을 어떻게 확보할 수 있는가?
• RQ3 무작위 좌표 업데이트와 비점점 감소 오차는 평균 수렴성과 고확률 수렴성에 어떤 영향을 미치는가?
• RQ4 시간에 따라 변화하는 최적화 문제와 변화하는 최적 해를 가진 문제를 다룰 수 있는가?
• RQ5 제안된 분석은 기존의 거의 확실 수렴 결과와 어떻게 관련되어 있으며, 이를 어떻게 확장하는가?

주요 결과

• 하위-웨이블러 오차 분포와 무작위 좌표 업데이트 하에 수축 연산자 및 평균화 연산자 모두에 대해 평균 수렴성이 확립되었다.
• 오차나 연산자 파arameter의 점점 감소 조건을 요구하지 않으며, 고확률 수렴 경계가 유도되었고, 고전적 결과가 일반화되었다.
• 프레임워크는 무한차원 힐버트 공간에 적용 가능하여 복잡한 최적화 문제의 분석이 가능하다.
• 온라인 최적화의 경우, 수렴 경계는 최적 해 경로의 시간에 따른 변화에 따라 달라진다.
• 비점점 감소 오차와 파arameter를 允許함으로써 기존의 거의 확실 수렴 프레임워크를 일반화하였다.
• 오차나 파aram터가 점점 감소하는 고전적 설정을 특수한 경우로 포함함으로써, 이전 문헌과의 일관성을 보였다.