[論文レビュー] An iterative regularized mirror descent method for ill-posed nondifferentiable stochastic optimization

Mostafa Amini, Farzad Yousefian|arXiv (Cornell University)|Jan 28, 2019

Sparse and Compressive Sensing Techniques参考文献 43被引用数 5

ひとこと要約

本稿では、両方の目的関数が期待値として与えられ、滑らかさを欠く可能性がある不適切に設定された非微分可能で確率的バイレベル最適化問題を解くために、反復的正則化確率的ミラー降下法（IR-SMD）を提案する。この手法はステップサイズおよび正則化パラメータを自己適合的に更新し、最適解への確率的かつ平均的収束を達成し、収束速度は $\mathcal{O}(1/N^{0.5-\delta})$ である。実験では合成的および実世界のテキスト分類問題で検証された。

ABSTRACT

A wide range of applications arising in machine learning and signal processing can be cast as convex optimization problems. These problems are often ill-posed, i.e., the optimal solution lacks a desired property such as uniqueness or sparsity. In the literature, to address ill-posedness, a bilevel optimization problem is considered where the goal is to find among optimal solutions of the inner level optimization problem, a solution that minimizes a secondary metric, i.e., the outer level objective function. In addressing the resulting bilevel model, the convergence analysis of most existing methods is limited to the case where both inner and outer level objectives are differentiable deterministic functions. While these assumptions may not hold in big data applications, to the best of our knowledge, no solution method equipped with complexity analysis exists to address presence of uncertainty and nondifferentiability in both levels in this class of problems. Motivated by this gap, we develop a first-order method called Iterative Regularized Stochastic Mirror Descent (IR-SMD). We establish the global convergence of the iterate generated by the algorithm to the optimal solution of the bilevel problem in an almost sure and a mean sense. We derive a convergence rate of ${\cal O}\left(1/N^{0.5-δ} ight)$ for the inner level problem, where $δ>0$ is an arbitrary small scalar. Numerical experiments for solving two classes of bilevel problems, including a large scale binary text classification application, are presented.

研究の動機と目的

• 両方のレベルで非微分可能な目的関数を有する不適切に設定された確率的バイレベル最適化問題に対して、複雑性解析を伴う最初の順序法の欠如に対処すること。
• 不確実性および非滑らかさのもとで、バイレベル最適化問題の最適解へのグローバル収束を保証する手法を開発すること。
• 自己適合的なパrameter更新のもとで、実行可能性ギャップおよび反復値の収束速度を確立すること。
• 大規模問題、特にRCV1データセットを用いた二値テキスト分類タスクを含む、実験的検証を行うこと。
• 既存の確率的ミラー降下フレームワークを、外側の目的関数に強い凸性と、内側の目的関数に確率的かつ非滑らか性を有するバイレベル構造を扱えるように拡張すること。

提案手法

• ステップサイズおよび正則化パラメータを各反復で更新する反復的正則化確率的ミラー降下（IR-SMD）アルゴリズムを提案する。
• 反復回数および問題パrameterに基づいて、ステップサイズ $\gamma_k$ および正則化パラメータ $\lambda_k$ の自己適合的更新ルールを採用する。
• 非ユークリッド幾何を扱えるように、Bregman散発を用いたミラー降下フレームワークを採用し、高次元およびスパースな問題に適している。
• 各反復で正則化された部分問題を導入し、収束の安定化およびスパarsityなどの望ましい解の性質の促進を図る。
• 期待値における収束および確率的収束の両方を向上させるために、平均化技術を適用する。
• 外側目的関数の凸性および強い凸性、および確率的部分勾配の有界性を仮定したもとで収束保証を導出する。

実験結果

リサーチクエスチョン

• RQ1 両方のレベルで非微分可能な目的関数を有する不適切に設定された確率的バイレベル最適化問題に対して、最初の順序法を開発可能か？
• RQ2 ステップサイズおよび正則化パラメータのどの自己適合的更新ルールが、確率的および平均的収束を保証するか？
• RQ3 このような更新ルールのもとで、実行可能性ギャップおよび反復値の収束速度はどの程度確立できるか？
• RQ4 不確実性および非滑らか性を伴う大規模問題、例えばテキスト分類において、この手法はどの程度の性能を示すか？
• RQ5 確率的で非滑らかかつ不適切に設定された目的関数の下で、近似的に最適な収束速度を達成できるか？

主な発見

• 提案されたステップサイズおよび正則化パラメータの自己適合的更新ルールのもとで、IR-SMD手法はバイレベル最適化問題の唯一の最適解への確率的収束および平均収束を達成する。
• 期待される実行可能性ギャップに対して $\mathcal{O}(1/N^{0.5-\delta})$ の収束速度が確立された。ここで $\delta > 0$ は任意の小さなスカラーである。
• 合成的線形逆問題における数値実験では、異なる初期化およびパラメータ設定に対しても一貫した収束が確認された。
• 150,000件の記事および138,921個のトークンを有するRCV1テキスト分類データセットにおいて、この手法はスパarsityを効果的に誘導し、低損失解に収束した。
• 初期条件に対して頑健であり、$x_0 = -10\mathbf{1}_n$、$\mathbf{0}_n$、および $10\mathbf{1}_n$ のすべての初期化において類似した収束行動が観察された。
• 10,000個のサンプルパスにわたる反復において、実行可能性ギャップおよび目的関数値が低く保たれ、損失関数が対数的に減少した。