[論文レビュー] A Stochastic Operator Framework for Inexact Static and Online Optimization.

Nicola Bastianello, Liam Madden+2 more|arXiv (Cornell University)|May 20, 2021

Sparse and Compressive Sensing Techniques参考文献 49被引用数 8

ひとこと要約

本稿は、ヒルバート空間における分離可能作用素上の確率的バナッハ＝ピカード反復を用いて、不正確でオンラインな最適化アルゴリズムを分析する統一的な確率的作用素フレームワークを導入する。サブ・ウェイブル誤差と確率的座標更新の下で、消える誤差やパrameterを仮定せず、平均収束および高確率収束を確立し、オンライン最適化における時変問題へも拡張可能である。

ABSTRACT

This paper provides a unified stochastic operator framework to analyze the convergence of iterative optimization algorithms for both static problems and online optimization and learning. In particular, the framework is well suited for algorithms that are implemented in an inexact or stochastic fashion because of (i) stochastic errors emerging in algorithmic steps, and because (ii) the algorithm may feature random coordinate updates. To this end, the paper focuses on separable operators of the form $T x = (T_1 x, \ldots, T_n x)$, defined over the direct sum of possibly infinite-dimensional Hilbert spaces, and investigates the convergence of the associated stochastic Banach-Picard iteration. Results in terms of convergence in mean and in high-probability are presented when the errors affecting the operator follow a sub-Weibull distribution and when updates $T_i x$ are performed based on a Bernoulli random variable. In particular, the results are derived for the cases where $T$ is contractive and averaged in terms of convergence to the unique fixed point and cumulative fixed-point residual, respectively. The results do not assume vanishing errors or vanishing parameters of the operator, as typical in the literature (this case is subsumed by the proposed framework), and links with exiting results in terms of almost sure convergence are provided. In the online optimization context, the operator changes at each iteration to reflect changes in the underlying optimization problem. This leads to an online Banach-Picard iteration, and similar results are derived where the bounds for the convergence in mean and high-probability further depend on the evolution of fixed points (i.e., optimal solutions of the time-varying optimization problem).

研究の動機と目的

• 静的およびオンライン設定の両方において、不正確さと確率的要素を含む反復的最適化アルゴリズムの分析を統一すること。
• 無限次元ヒルバート空間上の分離可能作用素に適用可能な、確率的バナッハ＝ピカード反復フレームワークの構築すること。
• 消える誤差や作用素パrameterを仮定せず、平均および高確率収束を確立すること。
• 作用素が時間とともに変化するオンライン最適化にフレームワークを拡張し、時変問題を反映すること。
• 既存のほとんど確実な収束に関する文献と関連づけ、先行研究を一般化すること。

提案手法

• 最適化アルゴリズムをヒルバート空間の直和上に定義された分離可能作用素 $ T x = (T_1 x, \ldots, T_n x) $ でモデル化する。
• 各成分 $ T_i x $ がベルヌーイ確率変数に基づいて確率的に更新される確率的バナッハ＝ピカード反復を採用する。
• アルゴリズムのステップに影響を与えるサブ・ウェイブル分布に従う誤差を許容し、重尾誤差モデルを扱えるようにする。
• 固定点収束を目的とする収縮作用素と、残差収束を目的とする平均化作用素の両方をカバーする。
• オンライン最適化では、作用素 $ T $ が時間とともに変化し、収束バウンドは最適解の軌道に依存する。
• 消える誤差やパrameterを仮定しないことで、既存の結果を一般化し、古典的設定を特別な場合として含む。

実験結果

リサーチクエスチョン

• RQ1 静的およびオンライン設定の両方において、不正確で確率的最適化アルゴリズムを統一的に分析するフレームワークをどのように構築できるか？
• RQ2 サブ・ウェイブル誤差分布の下で、確率的バナッハ＝ピカード反復にどのような収束保証を提供できるか？
• RQ3 確率的座標更新と非消える誤差は、平均および高確率収束にどのように影響するか？
• RQ4 時間変化する最適化問題と変化する最適解を伴う状況でも、フレームワークは対応可能か？
• RQ5 提案された解析は、既存のほとんど確実な収束結果とどのように関連し、拡張されるか？

主な発見

• サブ・ウェイブル誤差分布および確率的座標更新の下で、収縮作用素および平均化作用素の両方について、平均収束が確立された。
• 消える誤差や作用素パrameterを仮定せず、高確率収束バウンドが導出され、古典的結果が拡張された。
• フレームワークは無限次元ヒルバート空間に適用可能であり、複雑な最適化問題の解析が可能になった。
• オンライン最適化では、最適解パスの時間的変動に応じて収束バウンドが依存する。
• 非消える誤差やパrameterを許容することで、既存のほとんど確実な収束フレームワークを一般化した。
• 誤差やパrameterが消える古典的設定を特別な場合として含むことにより、先行文献と整合性を保った。