[論文レビュー] A Stochastic Successive Minimization Method for Nonsmooth Nonconvex Optimization with Applications to Transceiver Design in Wireless Communication Networks

Meisam Razaviyayn, Maziar Sanjabi+1 more|arXiv (Cornell University)|Jul 17, 2013

Sparse and Compressive Sensing Techniques参考文献 47被引用数 14

ひとこと要約

本稿では、期待値下での滑らかでない非凸最適化のための確率的逐次上界最小化（SSUM）手法を提案する。各反復において、全標本平均の代わりに期待コストの局所的にタイトな上界近似を最小化する。この手法は収束性を保証し、効率的なオンライン計算を可能にし、無線変復器設計およびオンライン辞書学習への応用において、従来手法を著しく上回る性能を発揮する。また、収束保証のもとで滑らかでない非凸設定への確率的勾配法の拡張を実現する。

ABSTRACT

Consider the problem of minimizing the expected value of a cost function parameterized by a random variable. The classical sample average approximation (SAA) method for solving this problem requires minimization of an ensemble average of the objective at each step, which can be expensive. In this paper, we propose a stochastic successive upper-bound minimization method (SSUM) which minimizes an approximate ensemble average at each iteration. To ensure convergence and to facilitate computation, we require the approximate ensemble average to be a locally tight upper-bound of the expected cost function and be easily optimized. The main contributions of this work include the development and analysis of the SSUM method as well as its applications in linear transceiver design for wireless communication networks and online dictionary learning. Moreover, using the SSUM framework, we extend the classical stochastic (sub-)gradient (SG) method to the case of minimizing a nonsmooth nonconvex objective function and establish its convergence.

研究の動機と目的

• 滑らかでない非凸目的関数を伴う確率的最適化問題を解く際、古典的な標本平均近似（SAA）法の高い計算コストを低減すること。
• 各反復で正確なSAA部分問題の代わりに容易に最適化可能な上界近似を用いる、確率的逐次上界最小化（SSUM）フレームワークを構築すること。
• 局所的にタイトな上界と勾配の有界性などの弱い仮定のもとで、SSUM手法の収束性を確立すること。
• 古典的な確率的（部分）勾配法を滑らかでない非凸問題に拡張し、SSUMフレームワークを用いてその収束性を証明すること。
• 無線通信ネットワークの変復器設計およびオンライン辞書学習といった応用を通じて、実用的有効性を示すこと。

提案手法

• SSUM手法は各反復で近似アンサンブル平均を最小化する。ここで、近似関数 $ \hat{g}(x, x^{i-1}, \xi^i) $ は、直前の反復点 $ x^{i-1} $ の周囲で $ g(x, \xi^i) $ の局所的にタイトな上界である。
• アルゴリズムは $ x^r \leftarrow \arg\min_{x \in \mathcal{X}} \frac{1}{r} \sum_{i=1}^r \hat{g}(x, x^{i-1}, \xi^i) $ により変数を更新し、下降性と収束性を保証する。
• 収束性は、$ r \to \infty $ のとき、近似関数と真の目的関数との差が消えること、すなわち $ \alpha^r = \hat{f}^r(x^r) - f^r(x^r) \to 0 $ を証明することで確立される。
• 勾配のリプシッツ連続性と近似誤差の有界性の仮定を活用し、$ \|x^{r+1} - x^r\| = \mathcal{O}(1/r) $ を保証する。
• 滑らかでない非凸目的関数を許容するように、確率的勾配法を一般化するフレームワークであり、近似誤差の新たな解析により収束性が証明される。
• 理論的収束性は、連続する反復点間の差をバインドし、近似誤差に対してテレスコピック和の議論を用いる。

実験結果

リサーチクエスチョン

• RQ1 滑らかでない非凸確率的最適化問題の解法において、計算コストを低減するための確率的逐次上界最小化手法を設計可能か？
• RQ2 目的関数が非凸的かつ滑らかでない場合でも、弱い仮定のもとでSSUM手法が定常点に収束するか？
• RQ3 SSUMフレームワークを用いて、古典的な確率的勾配法を滑らかでない非凸問題に拡張し、収束保証を可能にするか？
• RQ4 無線変復器設計やオンライン辞書学習といった実応用において、SSUMの性能は既存アルゴリズムを上回るか？
• RQ5 上界と真の目的関数との近似誤差が反復を経てどのように消える条件は何か？

主な発見

• SSUM手法は、局所的にタイトな上界と勾配の有界性などの弱い仮定のもとで、定常点に収束することが保証される。
• 近似誤差 $ \alpha^r = \hat{f}^r(x^r) - f^r(x^r) $ は $ r \to \infty $ のとき消えるため、アルゴリズムが真の期待目的関数を追跡することが保証される。
• 反復点は $ \|x^{r+1} - x^r\| = \mathcal{O}(1/r) $ を満たし、反復におけるステップサイズが徐々に小さくなることを示している。
• 古典的な確率的勾配法はSSUMの特別な場合であることが示され、このフレームワークにより滑らかでない非凸問題への拡張と収束証明が可能になる。
• 数値実験の結果、SSUMは無線ビームフォーミングネットワークにおけるより高い恒常的和レートを達成する点で、既存手法を著しく上回ることが示された。
• 本手法はオンライン辞書学習への応用においても成功裏に適用され、大規模なデータ駆動型最適化における実用的有効性が実証された。