[논문 리뷰] Stochastic inertial primal-dual algorithms

Lorenzo Rosasco, Silvia Villa외 1명|arXiv (Cornell University)|2015. 07. 03.

Sparse and Compressive Sensing Techniques참고 문헌 40인용 수 4

한 줄 요약

이 논문은 힐버트 공간 설정에서 수렴 보장을 갖는 복합 최적화 문제를 해결하기 위해 관성 역학과 확률적 그래디언트 추정치를 활용하는 새로운 스토하스틱 관성 원시-쌍대 알고리즘을 제안한다. 주요 기여는 일반적인 조건 하에서 통합된 수렴 분석을 제공하는 것으로, 유한한 단계 크기와 점점 줄어드는 확률적 오차를 포함하며, 결정론적 및 확률적 설정 모두에서 반복 해가 해로 수렴함을 보여준다.

ABSTRACT

We propose and study a novel stochastic inertial primal-dual approach to solve composite optimization problems. These latter problems arise naturally when learning with penalized regularization schemes. Our analysis provide convergence results in a general setting, that allows to analyze in a unified framework a variety of special cases of interest. Key in our analysis is considering the framework of splitting algorithm for solving a monotone inclusions in suitable product spaces and for a specific choice of preconditioning operators.

연구 동기 및 목표

• 학습에서 발생하는 복합 최적화 문제를 해결하기 위해 원시-쌍대 방법의 스토하스틱 및 관성 확장을 개발하기 위해.
• 힐베르트 공간 내 단조성 포함 프레임워크에서 광범위한 최적화 알고리즘 클래스에 대한 통합된 수렴 분석을 제공하기 위해.
• 행렬 역행렬 계산 없이도 독립적으로 보정 연산자(프록시미티 연산자)를 활성화할 수 있도록 하기 위해.
• 유한한 단계 크기와 점점 줄어드는 확률적 오차 조건 하에서 수렴을 확립하여 수치적 안정성을 향상시키기 위해.
• 단일이고 체계적인 프레임워크 내에서 관성과 스토하스틱성을 통합함으로써 기존의 원시-쌍대 방법을 일반화하기 위해.

제안 방법

• 생산 힐베르트 공간 설정에서 전처리 연산자와 함께 스토하스틱 관성 전진-후행 분할 알고리즘을 사용한다.
• 추론 항목 $ u_n = w_n + \alpha_n(w_n - w_{n-1}) $ 와 $ d_{k,n} = v_{k,n} + \alpha_n(v_{k,n} - v_{k,n-1}) $ 를 통해 관성 단계를 사용하여 수렴 속도를 향상시킨다.
• 정규화 항목에 대한 보정 연산자는 쌍대 함수의 리졸베르트를 통해 독립적으로 계산된다: $ q_{k,n} = \text{prox}_{g_k^*}^{W_k^{-1}}(d_{k,n} + W_k D_k s_n) $.
• 정확한 그래디언트 대신 확률적 그래디언트 추정치 $ \mathbf{a}_n $ 을 사용하며, $ \mathbb{E}[\mathbf{a}_n | \mathcal{F}_n] = \nabla F(u_n) $ 와 누적 가능한 오차 분산을 만족한다.
• 원시 업데이트 $ w_{n+1} = u_n - V\mathbf{a}_n - \sum_k D_k^* q_{k,n} $ 와 쌍대 업데이트 $ v_{k,n+1} = v_{k,n} + \lambda_n(q_{k,n} - v_{k,n}) $ 가 번갈아가며 적용된다.
• 수렴 조건 $ \sum_k \|W_k^{1/2} D_k V^{1/2}\|^2 < 1 $ 를 만족시키기 위해 전처리 행렬 $ W_k $ 과 연산자 $ V $ 가 선택된다.

실험 결과

연구 질문

• RQ1 원시-쌍대 방법의 관성 및 스토하스틱 확장은 단일 수렴 프레임워크 내에서 통합될 수 있는가?
• RQ2 유한한 단계 크기와 점점 줄어드는 확률적 오차를 함께 사용할 경우, 스토하스틱 원시-쌍대 방법에서 반복 해가 안정적이고 수렴하는가?
• RQ3 관성 항목의 포함이 표준 방법 대비 스토하스틱 설정에서 수렴 행동을 어떻게 향상시키는가?
• RQ4 행렬 역행렬 계산 없이도 비분리 정규화 항목과 일반 선형 연산자를 다룰 수 있는가?
• RQ5 스토하스틱 관성 원시-쌍대 방법의 반복 해가 약한 수렴 또는 강한 수렴으로 해로 수렴하는 조건은 무엇인가?

주요 결과

• 제시된 조건 하에서 반복 해 $ w_n \rightharpoonup \overline{w} $ 와 $ v_{k,n} \rightharpoonup \overline{v}_k $ 가 거의 확실히 약한 수렴을 이룬다.
• 목적 함수 $ F $ 가 극한점 $ \overline{w} $ 에서 균일하게 볼록할 경우 강한 수렴 $ w_n \to \overline{w} $ 가 보장된다.
• 유한한 단계 크기와 누적 가능한 확률적 오차 분산 조건 하에서 수렴이 확립되어, 점점 줄어드는 단계 크기 방법에 비해 수치적 안정성이 향상된다.
• 이 방법은 [13, 23, 9]의 기존 원시-쌍대 및 관성 알고리즘을 스토하스틱성과 관성의 통합 프레임워크 내에서 일반화한다.
• 수치 실험을 통해 반복 해의 수렴이 확인되었으며, 다항식 사전 설정에서 회귀 함수의 정확한 근사가 이루어짐을 보였다.
• 비분리 페널티를 가진 그룹 라소 유형 문제를 성공적으로 해결하였으며, $ p=32 $, $ s=8 $, $ N=48 $ 조건에서 우수한 회귀 성능을 달성하였다.