[논문 리뷰] A Stochastic forward-backward splitting method for solving monotone inclusions in Hilbert spaces

Lorenzo Rosasco, Silvia Villa외 1명|arXiv (Cornell University)|2014. 03. 31.

Optimization and Variational Analysis참고 문헌 56인용 수 19

한 줄 요약

이 논문은 힐버트 공간 내에서 단일값 함수가 확률적으로 추정되는 단조 포함 문제를 해결하기 위해 새로운 스토하스틱 프론트워드-백워드 스플릿팅 알고리즘을 제안한다. 강한 단조성 조건 하에서 기대값 기반 비점근 수렴성을 확립하고, 균일 단조성 조건 하에서 거의 확실 수렴성을 보장하며, 반복치 평균화를 피하고 가속화된 스토하스틱 방법과 동일한 수렴 속도를 달성한다.

ABSTRACT

We propose and analyze the convergence of a novel stochastic forward-backward splitting algorithm for solving monotone inclusions given by the sum of a maximal monotone operator and a single-valued maximal monotone cocoercive operator. This latter framework has a number of interesting special cases, including variational inequalities and convex minimization problems, while stochastic approaches are practically relevant to account for perturbations in the data. The algorithm we propose is a stochastic extension of the classical deterministic forward-backward method, and is obtained considering the composition of the resolvent of the maximal monotone operator with a forward step based on a stochastic estimate of the single-valued operator. Our study provides a non-asymptotic error analysis in expectation for the strongly monotone case, as well as almost sure convergence under weaker assumptions. The approach we consider allows to avoid averaging, a feature critical when considering methods based on sparsity, and, for minimization problems, it allows to obtain convergence rates matching those obtained by stochastic extensions of so called accelerated methods. Stochastic quasi Fejer's sequences are a key technical tool to prove almost sure convergence.

연구 동기 및 목표

• 단일값 함수의 평가에서 스토하스틱 노이즈가 존재하는 상황에서 최대 단조성 연산자와 코코어시브 단일값 함수를 포함하는 단조 포함 문제를 다루는 것.
• 단일값 함수의 노이즈가 있는 비편향 추정치를 사용하는 고전적 프론트워드-백워드 스플릿팅 방법의 스토하스틱 확장 개발.
• 반복치 평균화가 필요하지 않은 수렴 보장을 제공하여 희소 최적화 설정에서 매우 중요하다.
• 강한 단조성 조건 하에서 기대값 기반 비점근 오차 한계를 확보하고, 강한 단조성보다 더 약한 조건 하에서도 거의 확실 수렴성을 확보하는 것.
• 일반적인 단조성 조건 하에서 변분부등식과 볼록 최소화 문제에 대한 스토하스틱 1차 방법을 통합하고 확장하는 것.

제안 방법

• 단일값 함수의 스토하스틱 추정치를 사용한 프론트워드 단계를 수행한 후, 최대 단조성 연산자의 리졸베ント을 통한 백워드 단계를 수행한다.
• 유한한 두 번째 모멘트를 가진 스토하스틱 추정치의 랜덤 시퀀스를 사용하여 노이즈가 있는 데이터 또는 계산적 근사치를 모델링한다.
• 반복치 평균화를 피함으로써 해의 희소성을 유지하며, 이는 희소 최적화 문제에서 매우 중요하다.
• 균일 단조성 조건 하에서 거의 확실 수렴성을 확보하기 위해 스토하스틱 준파레세르 수열을 핵심 기술 도구로 활용한다.
• 강한 단조성 조건 하에서 비점근 카운터판션 버전의 찬의 보조정리를 사용하여 기대값 기반 비점근 수렴 한계를 도출한다.
• 정규직교 기저 위에서 변분부등식과 최소화 문제에 이 프레임워크를 적용하고, 이러한 경우에 대해 명시적인 반복적 절차를 유도한다.

실험 결과

연구 질문

• RQ1 노이즈가 있는 연산자 평가 조건 하에서 반복치 평균화가 필요 없이 스토하스틱 프론트워드-백워드 스플릿팅 방법을 개발할 수 있는가?
• RQ2 스토하스틱 추정치에 대한 약한 가정 하에서 어떤 수렴 보장—특히 비점근 한계와 거의 확실 수렴성—을 확보할 수 있는가?
• RQ3 특히 최소화 문제에서, 제안된 방법의 수렴 속도는 가속화된 스토하스틱 방법과 어떻게 비교되는가?
• RQ4 이 방법은 희소 신호 복원 및 정규직교 기저 위에서의 최적화에 적용 가능하며, 수렴성 보장이 가능한가?
• RQ5 단일값 함수가 강한 단조성이 아닌 균일 단조성일 경우, 거의 확실 수렴성을 보장하는 조건은 무엇인가?

주요 결과

• 강한 단조성 조건 하에서 기대값 기반 비점근 수렴성을 확보하며, 문제 매개변수에 명시적으로 의존하는 수렴 한계를 제공한다.
• 단일값 함수의 균일 단조성 조건 하에서 스토하스틱 준파레세르 수열을 활용하여 거의 확실 수렴성을 입증한다.
• 반복치 평균화를 피함으로써 해의 희소성이 요구되는 문제에서 유리하다.
• 최소화 문제의 경우, 가속화된 스토하스틱 방법과 동일한 수렴 속도를 달성함에도 불구하고 비가속화 방법임을 확인한다.
• 정규직교 기저 위에서의 최소화 문제의 경우, 알고리즘은 스토하스틱 그래디언트 추정치를 사용하는 좌표별 프락시멀 업데이트로 축소되며, 온건한 조건 하에서 수렴성을 보장한다.
• 균일 볼록 목표 함수의 경우, 강한 볼록성 조건 없이도 반복치는 거의 확실하게 해로 수렴한다.