[論文レビュー] Practical Precoding via Asynchronous Stochastic Successive Convex Approximation

Basil M. Idrees, Javed Akhtar+1 more|arXiv (Cornell University)|Oct 3, 2020

Sparse and Compressive Sensing Techniques参考文献 58被引用数 11

ひとこと要約

本稿は、非凸な確率的最適化に非滑らかな正則化子を適用する非同期確率的逐次凸近似（ASCA）アルゴリズムを提案する。標準の確率的勾配を超える構造的サーロゲート関数を活用することで、非漸近的収束性を確立し、確率的凸最適化（SCO）の複雑さがO(𝜖⁻²)であることを示し、許容可能な遅延の上限を明確に導出する。これにより、低複雑度の実装と優れた経験的性能を備えた無線リソース割り当てにおける実用的導入が可能になる。

ABSTRACT

We consider stochastic optimization of a smooth non-convex loss function with a convex non-smooth regularizer. In the online setting, where a single sample of the stochastic gradient of the loss is available at every iteration, the problem can be solved using the proximal stochastic gradient descent (SGD) algorithm and its variants. However in many problems, especially those arising in communications and signal processing, information beyond the stochastic gradient may be available thanks to the structure of the loss function. Such extra-gradient information is not used by SGD, but has been shown to be useful, for instance in the context of stochastic expectation-maximization, stochastic majorization-minimization, and stochastic successive convex approximation (SCA) approaches. By constructing a stochastic strongly convex surrogates of the loss function at every iteration, the stochastic SCA algorithms can exploit the structural properties of the loss function and achieve superior empirical performance as compared to the SGD. In this work, we take a closer look at the stochastic SCA algorithm and develop its asynchronous variant which can be used for resource allocation in wireless networks. While the stochastic SCA algorithm is known to converge asymptotically, its iteration complexity has not been well-studied, and is the focus of the current work. The insights obtained from the non-asymptotic analysis allow us to develop a more practical asynchronous variant of the stochastic SCA algorithm which allows the use of surrogates calculated in earlier iterations. We characterize precise bound on the maximum delay the algorithm can tolerate, while still achieving the same convergence rate. We apply the algorithm to the problem of linear precoding in wireless sensor networks, where it can be implemented at low complexity but is shown to perform well in practice.

研究の動機と目的

• 非凸的・非滑らかな確率的最適化における確率的逐次凸近似（SCA）の非漸近的収束解析を開発すること。
• 収束速度を低下させることなく許容可能な最大遅延を同定すること。
• 一次微分勾配を超える構造的情報を活用することで、リアルタイムの無線リソース割り当てにおけるSCAの実用的導入を可能とすること。
• 線形プリコーディングにおけるプロキシマルSGDと比較して、経験的に優れた性能を示すこと。

提案手法

• 損失関数の構造的情報から構築された強い凸性を持つサーロゲート関数を用いる、確率的SCAの非同期版を提案する。
• 以前の反復で得られたサーロゲート関数を再利用する遅延更新メカニズムを導入し、許容可能な最大遅延に対する明確な上限を形式的に導出する。
• 現在の反復点で接線条件を満たすサーロゲート関数 ˆf(x, x[t], ξ[t]) を用いたプロキシマルに類似した更新ルールを採用する。
• 過去の勾配の凸結合とモーメンタムに類似した項を含む三重点更新スキームを用い、収束の安定化を図る。
• 内積のバインドと収束速度の導出のため、ピーター・ポールの不等式と滑らかさの仮定を用いる。
• 反復ごとの部分勾配と誤差項の期待ノルムの分析を通じて、SCOの複雑さの上限を導出する。

実験結果

リサーチクエスチョン

• RQ1 非同期更新と遅延勾配を伴う確率的SCAアルゴリズムの非漸近的収束速度は何か？
• RQ2 同期バージョンと同等の収束速度を維持できる最大遅延はどの程度か？
• RQ3 一次微分勾配を超える構造的サーロゲート関数の使用は、非凸問題において標準的なプロキシマルSGDよりも高速な収束をもたらすか？
• RQ4 非同期SCAフレームワークにおいて、ステップサイズ、モーメンタムパラメータ、および遅延の最適なトレードオフは何か？
• RQ5 アルゴリズムの性能は、実際の無線ネットワークリソース割り当てタスクにおいてプロキシマルSGDと比べてどのように異なるか？

主な発見

• 提案された非同期確率的SCAアルゴリズムは、確率的凸最適化（SCO）の複雑さにおいて非漸近的収束速度O(𝜖⁻²)を達成し、プロキシマルSGDの最良既知の境界と一致する。
• 収束速度を維持できる最大遅延は𝜏 = o(√T)であり、遅延耐性に関する明確な解析的上限が導出された。
• サーロゲート関数の滑らかさ ˆL がO(√T)であり、強凸性パrameter 𝜇 がLに設定される場合、部分勾配ノルムの収束速度はO(1/√T)に達する。
• 計算複雑度が低いにもかかわらず、無線センサネットワークにおける線形プリコーディングにおいて、プロキシマルSGDよりも優れた経験的性能を示した。
• 理論的分析により、一次微分勾配を超える構造的サーロゲート関数の使用が、標準的なSFOベース手法よりも高速な収束をもたらすことが確認された。
• 遅延耐性に関する導出された上限により、更新が即時でない計算制約のあるリアルタイム無線システムにおける実用的導入が可能になった。