[論文レビュー] Globally Convergent Type-I Anderson Acceleration for Non-Smooth Fixed-Point Iterations

Junzi Zhang, Brendan O’Donoghue+1 more|ArXiv.org|Aug 12, 2018

Matrix Theory and Algorithms参考文献 41被引用数 35

ひとこと要約

本稿では、安全対策ステップ、ポール型正則化、強い線形独立性に基づくリスタート機構を統合することで、滑らかでない非拡大固定点反復における、初めてのグローバル収束型Iアンダーソン加速（AA-I）を提案する。本手法は微分可能性やラインサーチを要せず、SCS 2.0 や CVXPY 1.0 における一次順序法の終端収束を著しく改善する。

ABSTRACT

We consider the application of the type-I Anderson acceleration to solving general non-smooth fixed-point problems. By interleaving with safe-guarding steps, and employing a Powell-type regularization and a re-start checking for strong linear independence of the updates, we propose the first globally convergent variant of Anderson acceleration assuming only that the fixed-point iteration is non-expansive. We show by extensive numerical experiments that many first order algorithms can be improved, especially in their terminal convergence, with the proposed algorithm. Our proposed method of acceleration is being implemented in SCS 2.0, one of the default solvers used in the convex optimization parser-solver CVXPY 1.0.

研究の動機と目的

• 滑らかでない非拡大固定点反復のためのグローバル収束型加速法を開発すること。このような反復は、凸最適化やゲーム理論で一般的である。
• 標準的な型Iアンダーソン加速（AA-I）が強い仮定なしでは不安定でグローバル収束しない問題を克服すること。
• ラインサーチや微分可能性に依存しないようにすることで、プロキシマル法、射影ベース法、準ニュートン法への応用を可能とすること。
• SCS 2.0 や CVXPY 1.0 などの一次順序ソルバーにおける終端収束を向上させる、実用的で安定した加速フレームワークを提供すること。
• 非ユークリッドノルムや、ヘヴィーボール法やMDPにおける価値反復のようなモーメンタムベースの手法に対しても理論的保証を拡張すること。

提案手法

• AA-Iステップとクラスノスェルスキー＝マーン（KM）反復を交互に実行することで、進捗と安定性を保証するセーフティメカニズムを導入する。
• アンダーソン更新における数値的安定性を維持し、悪条件化を回避するために、ポール型正則化を適用する。
• 更新ベクトルの強い線形独立性に基づくリスタート基準を実装することで、停滞や発散を防ぐ。
• 固定点写像の非拡大性を主な収束保証として用い、非単調なラインサーチフリー戦略を採用する。
• SCS 2.0 などの既存のソルバーに修正されたAA-Iを統合し、凸最適化問題に対して即座に利用可能な加速を可能にする。
• 微分可能性や収縮性の仮定を一切要せず、ℓ₂ノルムにおける非拡大性仮定のみでグローバル収束を保証する。

実験結果

リサーチクエスチョン

• RQ1 滑らかでない非拡大固定点問題に対して、追加仮定なしに型Iアンダーソン加速をグローバル収束可能にすることができるか？
• RQ2 実用的においてAA-Iの不安定性を軽減しながら、その高速な終端収束特性を維持できるか？
• RQ3 f が非拡大ではあるが微分可能でもなく収縮的でもない場合に、グローバル収束を保証するために必要な修正は何か？
• RQ4 提案手法をヘヴィーボール法やMDPにおける価値反復のようなモーメンタムベースの手法に拡張できるか？
• RQ5 f の確率的またはノイズのある評価に対して、アルゴリズムの性能はどのようになるか？また、AA-II と比較してどうか？

主な発見

• 提案手法は、微分可能性やラインサーチを要せず、非拡大性仮定のみで滑らかでない非拡大固定点問題に対してグローバル収束を達成する。
• 広範な数値実験により、特に高精度領域において一次順序法の終端収束速度が著しく向上することが示された。
• 本手法はすでにSCS 2.0およびCVXPY 1.0に統合されており、現実の凸最適化パイプラインにおける実用的有用性が裏付けられている。
• さまざまな問題クラスにおいて、標準AA-Iより安定性と耐障害性に優れつつ、その高速収束特性を維持している。
• 価値反復におけるMDPやQPsにおけるヘヴィーボール法に対し、理論的拡張が確立され、ℓ₂またはℓ∞ノルムにおける非拡大性のもとでグローバル収束が証明された。
• ステップサイズ αᵏ が消える場合でも、本手法はグローバル収束することが示されたが、このような自己適合設定における収束性は未解決の問題のままである。