[논문 리뷰] A Stochastic Successive Minimization Method for Nonsmooth Nonconvex Optimization with Applications to Transceiver Design in Wireless Communication Networks

Meisam Razaviyayn, Maziar Sanjabi외 1명|arXiv (Cornell University)|2013. 07. 17.

Sparse and Compressive Sensing Techniques참고 문헌 47인용 수 14

한 줄 요약

이 논문은 기대값 하에서 비스무스 및 비볼록 최적화를 위한 확률적 연속 상한 최소화(Stochastic Successive Upper-bound Minimization, SSUM) 방법을 제안한다. 각 반복 단계에서 전체 표본 평균 대신 기대 비용의 국소적으로 날카운 상한 근사값을 최소화한다. 이 방법은 수렴성을 보장하며, 효율적인 온라인 계산을 가능하게 하며, 무선 수신기 설계 및 온라인 사전학습 딕셔너리 학습에 적용되어 기존 방법에 비해 에르고딕 합률에서 뚜렷한 성능 향상을 보이며, 수렴 보장이 있는 비스무스 비볼록 설정으로 확률적 경사하강법을 확장한다.

ABSTRACT

Consider the problem of minimizing the expected value of a cost function parameterized by a random variable. The classical sample average approximation (SAA) method for solving this problem requires minimization of an ensemble average of the objective at each step, which can be expensive. In this paper, we propose a stochastic successive upper-bound minimization method (SSUM) which minimizes an approximate ensemble average at each iteration. To ensure convergence and to facilitate computation, we require the approximate ensemble average to be a locally tight upper-bound of the expected cost function and be easily optimized. The main contributions of this work include the development and analysis of the SSUM method as well as its applications in linear transceiver design for wireless communication networks and online dictionary learning. Moreover, using the SSUM framework, we extend the classical stochastic (sub-)gradient (SG) method to the case of minimizing a nonsmooth nonconvex objective function and establish its convergence.

연구 동기 및 목표

• 비볼록 및 비스무스 목표 함수를 가진 확률적 최적화 문제를 해결할 때 고전적인 표본 평균 근사(Sample Average Approximation, SAA) 방법의 높은 계산 비용을 해결하기 위해.
• 각 반복 단계에서 정확한 SAA 하위문제를 쉽게 최적화할 수 있는 상한 근사값으로 대체하는 확률적 연속 상한 최소화(SSUM) 프레임워크를 개발하기 위해.
• 국소적으로 날카운 상한 근사값과 유한한 기울기 등을 포함한 온건한 가정 하에 SSUM 방법의 수렴성을 확립하기 위해.
• 고전적 확률적(하부)기울기 방법을 비스무스 비볼록 문제로 확장하고, SSUM 프레임워크를 사용하여 그 수렴성을 증명하기 위해.
• 무선 통신 네트워크 수신기 설계 및 온라인 사전학습 딕셔너리 학습 등의 응용을 통해 실용적 효능을 입증하기 위해.

제안 방법

• SSUM 방법은 각 반복에서 근사된 집합 평균을 최소화하며, 이 근사 함수 $ \hat{g}(x, x^{i-1}, \xi^i) $ 는 이전 반복값 $ x^{i-1} $ 근처에서 $ g(x, \xi^i) $ 의 국소적으로 날카운 상한 근사값이다.
• 알고리즘은 $ x^r \leftarrow \arg\min_{x \in \mathcal{X}} \frac{1}{r} \sum_{i=1}^r \hat{g}(x, x^{i-1}, \xi^i) $ 를 통해 변수를 갱신하며, 이는 내림차순과 수렴성을 보장한다.
• 수렴은 $ r \to \infty $ 일 때 근사 함수와 진짜 목표 함수 간의 격차가 사라짐을 증명함으로써 확립되며, $ \alpha^r = \hat{f}^r(x^r) - f^r(x^r) \to 0 $ 이다.
• 기울기의 리프시츠 연속성과 근사 오차의 유한성에 기반한 가정을 활용하여 $ \|x^{r+1} - x^r\| = \mathcal{O}(1/r) $ 를 보장한다.
• 비스무스 및 비볼록 목표 함수를 허용하는 고전적 확률적 경사하강법을 일반화하며, 근사 오차의 새로운 분석을 통해 수렴성을 증명한다.
• 이론적 수렴은 연속적인 반복값 간의 차이를 유 bounds 하고, 근사 오차에 대해 체계적(telescoping) 추론을 사용한다.

실험 결과

연구 질문

• RQ1 비스무스 비볼록 확률적 최적화 문제를 해결할 때 계산 비용을 줄이기 위해 확률적 연속 상한 최소화 방법을 설계할 수 있는가?
• RQ2 목표 함수가 비볼록이거나 비스무스일지라도, 온건한 가정 하에 SSUM 방법이 정류점으로 수렴하는가?
• RQ3 SSUM 프레임워크를 사용하여 고전적 확률적 경사하강법을 비스무스 비볼록 문제로 확장하고, 수렴 보장을 받을 수 있는가?
• RQ4 무선 수신기 설계 및 온라인 사전학습 딕셔너리 학습과 같은 실용적 응용에서 SSUM의 성능은 기존 알고리즘과 비교해 어떻게 되는가?
• RQ5 상한 근사값과 진짜 목표 함수 간의 근사 오차가 반복 과정에서 어떻게 사라지는 조건이 보장되는가?

주요 결과

• SSUM 방법은 국소적으로 날카운 상한 근사값과 유한한 기울기 등을 포함한 온건한 가정 하에 정류점으로 수렴함을 보였다.
• 근사 오차 $ \alpha^r = \hat{f}^r(x^r) - f^r(x^r) $ 는 $ r \to \infty $ 일 때 사라지며, 이는 알고리즘이 진짜 기대 목표 함수를 따라가고 있음을 보장한다.
• 반복값은 $ \|x^{r+1} - x^r\| = \mathcal{O}(1/r) $ 를 만족하며, 이는 반복값에서 점차 줄어드는 스텝 크기를 나타낸다.
• 고전적 확률적 경사하강법은 SSUM의 특수한 경우임이 입증되었으며, 프레임워크를 통해 비스무스 비볼록 문제로 확장되고 수렴성이 증명되었다.
• 수치적 결과는 SSUM이 무선 비밍 포밍 네트워크에서 더 높은 에르고딕 합률을 달성하는 데 있어 기존 알고리즘을 뚜렷이 능가함을 보였다.
• 이 방법은 온라인 사전학습 딕셔너리 학습에 성공적으로 적용되어 대규모 데이터 기반 최적화에서의 실용적 유용성을 입증하였다.