[論文レビュー] Towards Gradient-based Bilevel Optimization with Non-convex Followers and Beyond

Risheng Liu, Yaohua Liu+2 more|arXiv (Cornell University)|Oct 1, 2021

Sparse and Compressive Sensing Techniques被引用数 1

ひとこと要約

本稿では、下位問題の凸性（LLC）を仮定せずに非凸な下位問題を勾配ベースで解ける、新たな二段階最適化フレームワークIAPTT-GMを提案する。初期化補助項と懐疑的軌道截断を用いることで、元のBLO解への収束を達成し、理論的保証を提供する。LLC下でも収束性と加速動的特性の両方を経験的に検証した。

ABSTRACT

In recent years, Bi-Level Optimization (BLO) techniques have received extensive attentions from both learning and vision communities. A variety of BLO models in complex and practical tasks are of non-convex follower structure in nature (a.k.a., without Lower-Level Convexity, LLC for short). However, this challenging class of BLOs is lack of developments on both efficient solution strategies and solid theoretical guarantees. In this work, we propose a new algorithmic framework, named Initialization Auxiliary and Pessimistic Trajectory Truncated Gradient Method (IAPTT-GM), to partially address the above issues. In particular, by introducing an auxiliary as initialization to guide the optimization dynamics and designing a pessimistic trajectory truncation operation, we construct a reliable approximate version of the original BLO in the absence of LLC hypothesis. Our theoretical investigations establish the convergence of solutions returned by IAPTT-GM towards those of the original BLO without LLC. As an additional bonus, we also theoretically justify the quality of our IAPTT-GM embedded with Nesterov's accelerated dynamics under LLC. The experimental results confirm both the convergence of our algorithm without LLC, and the theoretical findings under LLC.

研究の動機と目的

• 非凸な下位問題（LLCなし）に対する効率的な解法戦略と理論的保証の欠如に取り組む。
• 下位問題の凸性仮定が成り立たない状況においても、元の二段階最適化問題の信頼性の高い近似を構築する。
• 非凸な下位問題構造下でも、提案手法の収束が元の二段階最適化問題の解に到達することを確立する。
• LLC条件下で、アルゴリズムの加速版の性能を理論的に正当化する。
• 経験的実験を通じて、アルゴリズムの収束性と理論的考察を検証する。

提案手法

• 下位問題の凸性が成り立たない状況でも最適化ダイナミクスを導くために、初期化補助項を導入する。
• 下位最適化経路の安定化と近似を図るため、懐疑的軌道截断操作を設計する。
• 下位問題が非凸であっても有効である、信頼性のある近似二段階最適化問題の定式化を構築する。
• Nesterovの加速ダイナミクスをフレームワークに統合し、LLC条件下での収束速度を向上させる。
• 截断された下位軌道に基づいた勾配ベースの上位最適化更新を実装する。
• 理論的分析は、軌道截断によって生じる誤差のバインドと、元のBLO解への収束の両方を示す。

実験結果

リサーチクエスチョン

• RQ1 下位問題が非凸であっても、有効に機能する勾配ベースの二段階最適化手法を開発できるか？
• RQ2 下位問題の凸性を仮定しない状況でも、上位最適化解が元の二段階最適化問題の解に収束するように保証できるか？
• RQ3 LLC条件下で、Nesterovの加速ダイナミクスを統合した場合、フレームワークに与える影響は何か？
• RQ4 下位問題が凸性を持たない状況でも、提案手法が信頼性と収束性を維持できるか？
• RQ5 初期化補助項と軌道截断は、二段階最適化プロセスの安定化にどのように寄与するか？

主な発見

• IAPTT-GMアルゴリズムは、下位問題の凸性仮定がなくても、元の二段階最適化問題の解に収束することを達成した。
• 理論的分析により、LLCが成り立たない状況でも、IAPTT-GMが返す解が、元のBLOの真の解に収束することが確認された。
• LLC条件下では、IAPTT-GMに埋め込まれたNesterov加速版が理論的に正当化され、収束速度の向上が示された。
• 経験的結果により、非凸な下位問題設定下でもIAPTT-GMの収束性が検証され、理論的主張が裏付けられた。
• 提案手法は、下位問題が非凸である実用的な二段階最適化タスクにおいて、頑健性と信頼性を示した。