[논문 리뷰] Stochastic Approximations and Perturbations in Forward-Backward Splitting for Monotone Operators

Patrick L. Combettes, Jean‐Christophe Pesquet|arXiv (Cornell University)|2015. 07. 25.

Optimization and Variational Analysis참고 문헌 50인용 수 29

한 줄 요약

이 논문은 단조 연산자 포함 문제에 대해 스 tochastic forward-backward splitting 알고리즘의 거의 확실한 약한 수렴성과 강한 수렴성을 확립한다. 여기서 스 tochastic approximation이 코코어시브 연산자를 대체하고, 스 tochastic perturbation이 비정확한 해석 평가를 모델링한다. 주요 기여는 비영인 프록시멀 매개변수와 리라크스레이션 단계를 허용함에도 불구하고, 스 tochastic 과정에 대한 조건이 약한 조건에서도 수렴성을 보장한다는 점이다.

ABSTRACT

We investigate the asymptotic behavior of a stochastic version of the forward-backward splitting algorithm for finding a zero of the sum of a maximally monotone set-valued operator and a cocoercive operator in Hilbert spaces. Our general setting features stochastic approximations of the cocoercive operator and stochastic perturbations in the evaluation of the resolvents of the set-valued operator. In addition, relaxations and not necessarily vanishing proximal parameters are allowed. Weak and strong almost sure convergence properties of the iterates is established under mild conditions on the underlying stochastic processes. Leveraging these results, we also establish the almost sure convergence of the iterates of a stochastic variant of a primal-dual proximal splitting method for composite minimization problems.

연구 동기 및 목표

• Hilbert 공간에서 최대 단조 연산자와 코코어시브 연산자의 합의 영을 찾기 위한 스 tochastic forward-backward 알고리즘의 渐近적 행동을 분석하는 것.
• 코코어시브 연산자의 스 tochastic approximation과 해석 평가에서의 스 tochastic perturbation을 고려하여, 실제 세계의 비정확성을 모델링하는 것.
• 비영인 프록시멀 매개변수와 리라크스레이션 단계를 허용하여, 기존의 결정론적 forward-backward 방법을 일반화하는 것.
• 기본적인 스 tochastic 과정에 대한 순간 조건과 에르고딕 조건 하에서 반복의 거의 확실한 약한 수렴성과 강한 수렴성을 확립하는 것.
• 복합 최소화 문제에 대한 스 tochastic primal-dual proximal splitting 방법으로 수렴 결과를 확장하는 것.

제안 방법

• 코코어시브 연산자를 랜덤 변수의 수열 $(u_n)$으로 근사하는 스 tochastic forward-backward 반복을 수립하고, 해석은 스 tochastic perturbation $(a_n)$으로 평가한다.
• 리라크스레이션 매개변수 $(\lambda_n)$을 도입하고, 해석 연산자 $\mathsf{J}_{\gamma_n\mathsf{A}}$에서 비영인 프록시멀 매개변수 $(\gamma_n)$을 허용한다.
• 조건부 기대와 마틴게일 유형의 추론을 사용하여 스 tochastic approximation의 편향과 분산을 분석한다.
• 반복 로그 법칙을 적용하여, 신호 복원 예제에서와 같이 $\mathsf{E}(u_n \mid \boldsymbol{\mathcal{X}}_n) - \nabla\mathsf{h}(x_n)$와 같은 경험적 추정치의 편향을 제어한다.
• 일반적인 수렴 성질(제5.3조)의 조건을 검증함으로써 수렴성을 확립한다. 이는 스 tochastic 오차의 순간 경계를 포함한다.
• 편향과 분산 항의 명시적 감쇠 속도를 유도한다. 예를 들어 $\lambda_n \|\mathsf{E}(u_n \mid \boldsymbol{\mathcal{X}}_n) - \nabla\mathsf{h}(x_n)\|^2 = O(\log(\log(n))/n^{1+\delta+\kappa})$.

실험 결과

연구 질문

• RQ1 비정확한 해석과 노이즈가 있는 코코어시브 연산자 근사가 있는 스 tochastic forward-backward 알고리즘이 거의 확실하게 수렴하는 조건은 무엇인가?
• RQ2 코코어시브 연산자의 스 tochastic approximation과 해석 평가에서의 편향은 반복의 수렴에 어떤 영향을 미치는가?
• RQ3 프록시멀 매개변수 $\gamma_n$이 영이 아니고 리라크스레이션 $\lambda_n$이 사용될 경우 수렴을 보장할 수 있는가?
• RQ4 샘플링 속도 $m_n$은 스 tochastic approximation $u_n$의 편향과 분산에 어떤 영향을 미치는가?
• RQ5 이론적 결과는 복합 최소화 문제에 대한 스 tochastic primal-dual proximal splitting 방법으로 확장될 수 있는가?

주요 결과

• 기본적인 스 tochastic 과정에 대한 조건 하에서, 스 tochastic forward-backward 알고리즘의 반복은 거의 확실하게 약한 수렴성과 강한 수렴성을 보인다.
• 모수 $m_n = O(n^{1+\delta})$ 및 $\lambda_n = O(n^{-\kappa})$일 때, 스 tochastic approximation의 편향 $\mathsf{E}(u_n \mid \boldsymbol{\mathcal{X}}_n) - \nabla\mathsf{h}(x_n)$는 $O(\log(\log(n))/n^{1+\delta+\kappa})$로 감쇠한다.
• 근사 오차의 조건부 분산은 $\mathsf{E}(\|u_n - \mathsf{E}(u_n \mid \boldsymbol{\mathcal{X}}_n)\|^2 \mid \boldsymbol{\mathcal{X}}_n) = O(1/n^{2+\delta})$를 만족하여, 노이즈 기여가 무시 가능하다.
• 곱 $\lambda_n \zeta_n$은 $O(1/n^{2+\delta+\kappa})$로 감쇠하여, 수렴을 위한 필수 합계 조건을 충족한다.
• 결과는 복합 최소화 문제에 대한 스 tochastic primal-dual proximal splitting 방법으로 확장되었으며, 거의 확실한 수렴성을 확립하였다.
• 수렴 프레임워크는 $u_n$이 최소 제곱 기능의 기댓값 추정치인 신호 복원과 같은 실용적 문제에 적용 가능하다.