[論文レビュー] A Generic First-Order Algorithmic Framework for Bi-Level Programming Beyond Lower-Level Singleton

Risheng Liu, Pan Mu+3 more|arXiv (Cornell University)|Jun 7, 2020

Sparse and Compressive Sensing Techniques参考文献 30被引用数 12

ひとこと要約

本稿では、制限的な下位層一意解（LLS）仮定を排除する汎用的一階のアルゴリズム的枠組みである二段階降下集約（BDA）を提案する。二段階最適化問題を楽観的視点から定式化し、階層的目的情報を集約することで、LLSを必要とせず収束を達成し、既存手法を上回り、ハイパーパramータ最適化およびメタラーニングタスクにおいて優れた性能を示す。

ABSTRACT

In recent years, a variety of gradient-based first-order methods have been developed to solve bi-level optimization problems for learning applications. However, theoretical guarantees of these existing approaches heavily rely on the simplification that for each fixed upper-level variable, the lower-level solution must be a singleton (a.k.a., Lower-Level Singleton, LLS). In this work, we first design a counter-example to illustrate the invalidation of such LLS condition. Then by formulating BLPs from the view point of optimistic bi-level and aggregating hierarchical objective information, we establish Bi-level Descent Aggregation (BDA), a flexible and modularized algorithmic framework for generic bi-level optimization. Theoretically, we derive a new methodology to prove the convergence of BDA without the LLS condition. Our investigations also demonstrate that BDA is indeed compatible to a verify of particular first-order computation modules. Additionally, as an interesting byproduct, we also improve these conventional first-order bi-level schemes (under the LLS simplification). Particularly, we establish their convergences with weaker assumptions. Extensive experiments justify our theoretical results and demonstrate the superiority of the proposed BDA for different tasks, including hyper-parameter optimization and meta learning.

研究の動機と目的

• 既存の一階二段階最適化手法が制限的な下位層一意解（LLS）条件に依存するという制限を解消すること。
• LLS仮定を超えて、汎用的でモジュラーかつ柔軟な二段階プログラミングのアルゴリズム的枠組みを構築すること。
• LLSを要件としない二段階一階手法の収束に関する新しい理論的証明の手法を確立すること。
• LLS簡略化のもとで既存の一階二段階スキームの収束保証を改善すること。
• 提案された枠組みが多様な機械学習応用において優れた性能を示すことを経験的に検証すること。

提案手法

• 下位層解が一意でない場合に対処できるように、楽観的視点から二段階問題を定式化すること。
• 二段階降下集約（BDA）を導入し、上位層変数に関する単一レベルの部分問題と、下位層変数に関する簡単な二段階部分問題に問題を分解するモジュラーな枠組みを構築すること。
• 上位層および下位層の両方の問題から得られる階層的目的情報を集約し、最適化をガイドすること。
• LLS条件を要件としない一般化された収束証明の手法を確立すること。代わりに、一様有界性および連続性の仮定に依存する。
• 下位層目的関数のレベル有界性および局所一様連続性を用いて、緩和された条件下での収束を保証すること。
• 上位層を検証損失、下位層を学習損失としてモデル化することで、ハイパーパramータ最適化および少数ショットメタラーニングに本フレームワークを適用すること。

実験結果

リサーチクエスチョン

• RQ1 下位層一意解（LLS）条件を要件としない一階二段階最適化枠組みを開発できるか？
• RQ2 下位層解集合が一意でない場合に、一階二段階手法の収束を保証する理論的条件は何か？
• RQ3 階層的目的情報はどのように集約することで、二段階最適化における収束性と安定性を向上させられるか？
• RQ4 提案された枠組みは、実用的な機械学習応用において既存の一階二段階手法を上回る性能を発揮できるか？
• RQ5 新規な証明手法は、既存のLLSに基づく手法の収束保証を改善できるか？

主な発見

• BDAは、LLS条件を要件とせず、上位層変数が最適解に部分収束することを達成した。
• 本フレームワークは、LLS仮定のもとで既存の一階二段階スキームの収束特性を、洗練された理論的証明手法によって改善した。
• Omniglotベンチマークでは、5ウェイ1ショット設定で99.04%の正確度を達成し、MAML（98.70%）および他のベースラインを上回った。
• MiniImageNetでは、49.08%の正確度を達成し、RHG（48.89%）およびT-RHG（47.67%）をわずかに上回り、約44%の正確度に到達するまでに上位層反復回数（2500回）が最少であった。
• 検証損失曲線から、少数ショット分類タスクにおいてOmniglotおよびMiniImageNetの両方で、BDAはRHGおよびT-RHGよりも速やかに収束することが示された。
• 反例により、LLSを要件としない既存の二段階FOMは誤った解に収束する可能性があることが実証され、本稿で提案する枠組みの必要性が裏付けられた。