[논문 리뷰] A constant step Forward-Backward algorithm involving random maximal monotone operators

Pascal Bianchi, Walid Hachem외 1명|arXiv (Cornell University)|2017. 02. 14.

Optimization and Variational Analysis참고 문헌 30인용 수 4

한 줄 요약

이 논문은 무작위 최대 단조 연산자들을 포함하는 일정 단계 크기의 확률적 전진-역행 알고리즘을 제안하며, 평균 연산자로부터 형성된 미분 포함을 통해 수렴성을 분석한다. 해석된 과정이 미분 포함의 해로 좁은 수렴을 보이며, 반지름성 조건 하에서 반복값들이 코시 평균에서 합의 연산자 영집합 근처에 머무르며, 관련 마코프 체인의 불변 측도를 통해 에르고딕 행동이 특징지어진다.

ABSTRACT

A stochastic Forward-Backward algorithm with a constant step is studied. At each time step, this algorithm involves an independent copy of a couple of random maximal monotone operators. Defining a mean operator as a selection integral, the differential inclusion built from the sum of the two mean operators is considered. As a first result, it is shown that the interpolated process obtained from the iterates converges narrowly in the small step regime to the solution of this differential inclusion. In order to control the long term behavior of the iterates, a stability result is needed in addition. To this end, the sequence of the iterates is seen as a homogeneous Feller Markov chain whose transition kernel is parameterized by the algorithm step size. The cluster points of the Markov chains invariant measures in the small step regime are invariant for the semiflow induced by the differential inclusion. Conclusions regarding the long run behavior of the iterates for small steps are drawn. It is shown that when the sum of the mean operators is demipositive, the probabilities that the iterates are away from the set of zeros of this sum are small in Ces\\`aro mean. The ergodic behavior of these iterates is studied as well. Applications of the proposed algorithm are considered. In particular, a detailed analysis of the random proximal gradient algorithm with constant step is performed.

연구 동기 및 목표

• 고정된 단계 크기 하에서 무작위 최대 단조 연산자에 의해 정의되는 확률적 전진-역행 알고리즘의 동적 행동을 연구한다.
• 해석된 반복값들이 평균 연산자에 의해 구동되는 미분 포함의 해로 수렴함을 확립한다.
• 관련된 펠러 마코프 체인의 불변 측도를 사용하여 반복값의 장기적 행동을 특징짓는다.
• 평균 연산자의 합이 반지름성 조건을 만족할 경우, 반복값들이 코시 평균에서 합의 연산자 영집합 근처에 머무름을 보인다.
• 알고리즘의 에르고딕 성질을 분석하고, 동일한 가정 하에 일정 단계 크기의 무작위 프락시멀 그라디언트 방법에 이 프레임워크를 적용한다.

제안 방법

• 알고리즘은 일정 단계 크기 γ를 사용하며, 각 반복에서 확률 공간 (Ξ, G) 에서 분포 μ를 가진 독립적인 복사본 A(ξn) 및 B(ξn)를 선택한다.
• 평균 연산자는 A = ∫A(s)μ(ds) 및 B = ∫B(s)μ(ds)로 정의되며, 적분은 선택 적분이며, A + B에 의해 구동되는 미분 포함을 형성한다.
• 반복값의 해석된 과정이 작은 단계 규모에서 미분 포함의 해로 좁게 수렴함을 보였다.
• 반복값의 수열은 γ로 매개변수화된 전이 커널을 갖는 동질적인 펠러 마코프 체인으로 모델링되어, 불변 측도 분석이 가능하다.
• γ → 0 일 때 불변 측도의 군집점이 미분 포함에 의해 유도된 반유동의 불변임을 보였다.
• 약한 수렴을 분석하고 L1+ε/2 공간에서 수열의 수렴성을 추출하기 위해 마주의 정리를 사용하여, 경험 측도의 약한 수렴을 분석하였다.

실험 결과

연구 질문

• RQ1 작은 단계 규모에서 일정 단계 크기의 확률적 전진-역행 반복값의 해석된 과정이 평균 연산자의 합에 의해 정의된 미분 포함의 해로 수렴하는가?
• RQ2 단계 크기가 고정되어 있고 작을 경우, 반복값의 장기적 행동은 평균 연산자의 합의 영집합으로부터의 근접성 측면에서 어떻게 되는가?
• RQ3 알고리즘과 관련된 마코프 체인의 불변 측도는 단계 크기 γ가 0에 접근함에 따라 어떻게 행동하는가?
• RQ4 어떤 조건에서 알고리즘이 반복값들이 코시 평균에서 해집합 근처에 머물도록 보장하는가?
• RQ5 반복값의 에르고딕 성질을 특징지울 수 있으며, 이는 미분 포함의 반유동과 어떻게 관련되는가?

주요 결과

• 작은 단계 규모에서 해석된 과정이 평균 연산자 합 A + B에 의해 정의된 미분 포함의 해로 좁게 수렴한다.
• 펠러 마코프 체인의 불변 측도의 군집점은 미분 포함에 의해 유도된 반유동에 대해 불변이다.
• A + B가 반지름성 조건을 만족할 경우, 반복값들이 A + B의 영집합에서 멀리 떨어져 있을 확률은 코시 평균에서 작다.
• 반복값의 에르고딕 행동은 경험 측도가 반유동의 불변 측도로 약한 수렴함으로써 특징지어진다.
• 동일한 가정 하에 일정 단계 크기의 무작위 프락시멀 그라디언트 알고리즘이 동일한 수렴성 및 에르고딕성 성질을 만족함을 보였다.
• 분석을 통해 L1+ε/2 공간에서 컴팩턴스와 수렴성 분포를 확립하였으며, 부분수열 추출을 위해 마주의 정리를 사용하였다.