[논문 리뷰] Practical Precoding via Asynchronous Stochastic Successive Convex Approximation

Basil M. Idrees, Javed Akhtar외 1명|arXiv (Cornell University)|2020. 10. 03.

Sparse and Compressive Sensing Techniques참고 문헌 58인용 수 11

한 줄 요약

이 논문은 비볼록 스토하스틱 최적화에 비연속 정규화를 적용한 비동기적 확률적 연속근사(ASCA) 알고리즘을 제안한다. 표준 스토하스틱 기울기 외의 구조적 서로서브 함수를 활용한다. 비점근 수렴성을 확립하며, 스토하스틱 컨 vex 최적화(SCO) 복잡도가 O(𝜖⁻²)임을 보이고, 허용 가능한 최대 지연 시간에 대한 정확한 경계를 도출하여, 저복잡도 구현과 뛰어난 경험적 성능을 바탕으로 무선 자원 할당에 실용적으로 적용 가능하게 한다.

ABSTRACT

We consider stochastic optimization of a smooth non-convex loss function with a convex non-smooth regularizer. In the online setting, where a single sample of the stochastic gradient of the loss is available at every iteration, the problem can be solved using the proximal stochastic gradient descent (SGD) algorithm and its variants. However in many problems, especially those arising in communications and signal processing, information beyond the stochastic gradient may be available thanks to the structure of the loss function. Such extra-gradient information is not used by SGD, but has been shown to be useful, for instance in the context of stochastic expectation-maximization, stochastic majorization-minimization, and stochastic successive convex approximation (SCA) approaches. By constructing a stochastic strongly convex surrogates of the loss function at every iteration, the stochastic SCA algorithms can exploit the structural properties of the loss function and achieve superior empirical performance as compared to the SGD. In this work, we take a closer look at the stochastic SCA algorithm and develop its asynchronous variant which can be used for resource allocation in wireless networks. While the stochastic SCA algorithm is known to converge asymptotically, its iteration complexity has not been well-studied, and is the focus of the current work. The insights obtained from the non-asymptotic analysis allow us to develop a more practical asynchronous variant of the stochastic SCA algorithm which allows the use of surrogates calculated in earlier iterations. We characterize precise bound on the maximum delay the algorithm can tolerate, while still achieving the same convergence rate. We apply the algorithm to the problem of linear precoding in wireless sensor networks, where it can be implemented at low complexity but is shown to perform well in practice.

연구 동기 및 목표

• 비볼록, 비연속 스토하스틱 최적화에서 스토하스틱 연속근사(ScA)의 점근적이지 않은 수렴 분석을 개발한다.
• 수렴 속도를 저하시키지 않도록 허용 가능한 최대 지연을 규명한다.
• 1차 도함수를 초월한 구조적 정보를 활용하여 실시간 무선 자원 할당에 실용적으로 적용 가능한 SCA를 가능하게 한다.
• 비선형 문제에서 표준 프록시멀 SGD에 비해 향상된 경험적 성능을 보여준다.

제안 방법

• 손실 함수의 구조적 정보로부터 생성된 강력 볼록 서로서브 함수를 사용하는 스토하스틱 SCA의 비동기적 변종을 제안한다.
• 이전 반복에서 생성된 서로서브 함수를 재사용하는 지연 업데이트 메커니즘을 도입하며, 허용 가능한 최대 지연 시간에 대한 공식 경계를 제시한다.
• 현재 반복점에서 탄젠트 조건을 만족하는 서로서브 함수 ˆf(x, x[t], ξ[t])를 사용하는 프록시멀 유사 업데이트 규칙을 적용한다.
• 과거 기울기의 볼록 조합과 모멘텀 유사 항을 포함하는 삼점 업데이트 방식을 사용하여 수렴을 안정화한다.
• 내적을 유계로 만들고 수렴 속도를 유도하기 위해 피터-폴 부등식과 미끄러움 가정을 사용한다.
• 반복 과정에서의 하위기울기 및 오차 항의 기대 노름을 분석하여 SCO 복잡도 경계를 도출한다.

실험 결과

연구 질문

• RQ1 지연된 기울기를 갖는 비동기 업데이트 하에서 스토하스틱 SCA 알고리즘의 점근적이지 않은 수렴 속도는 무엇인가?
• RQ2 동기 버전과 동일한 수렴 속도를 유지하면서 알고리즘이 얼마나 많은 지연을 견딜 수 있는가?
• RQ3 1차 도함수를 초월한 구조적 서로서브 함수의 사용이 비볼록 문제에서 표준 프록시멀 SGD보다 더 빠른 수렴을 이끌 수 있는가?
• RQ4 비동기 SCA 프레임워크에서 단계 크기, 모멘텀 파라미터, 지연 간의 최적의 트레이드오프는 무엇인가?
• RQ5 실제 무선 네트워크 자원 할당 작업에서 알고리즘의 성능은 프록시멀 SGD와 비교해 어떻게 되는가?

주요 결과

• 제안된 비동기 스토하스틱 SCA 알고리즘은 스토하스틱 컨벡스 최적화(SCO) 복잡도 기준으로 O(𝜖⁻²)의 점근적이지 않은 수렴 속도를 달성하며, 프록시멀 SGD의 최고 수준의 경계와 일치한다.
• 알고리즘은 동기 버전과 동일한 수렴 속도를 유지하면서 최대 지연 𝜏 = o(√T)를 견딜 수 있으며, 지연 내성에 대한 정확한 분석적 경계가 도출되었다.
• 서로서브 함수의 미끄러움 ˆL가 O(√T)이고 강력 볼록성 파라미터 𝜇가 L로 설정될 경우, 알고리즘은 하위기울기 노름 수렴 속도를 O(1/√T)로 달성한다.
• 낮은 계산 복잡도에도 불구하고, 무선 센서 네트워크의 선형 프리코딩에서 프록시멀 SGD에 비해 뛰어난 경험적 성능을 보였다.
• 이론적 분석은 1차 도함수를 초월한 구조적 서로서브 함수의 사용이 표준 SFO 기반 방법보다 더 빠른 수렴을 이끌 수 있음을 확인한다.
• 유도된 지연 내성 경계는 업데이트가 즉각적이지 않은 계산 자원이 제한된 실시간 무선 시스템에서의 실용적 구현 가능성을 보장한다.