[論文レビュー] Compositional ADAM: An Adaptive Compositional Solver

Rasul Tutunov, Minne Li+3 more|arXiv (Cornell University)|Feb 10, 2020

Domain Adaptation and Few-Shot Learning参考文献 49被引用数 10

ひとこと要約

本稿では、非線形にネストされた期待値に対して初めての適応的合成最適化手法であるC-ADAMを提案する。この手法は、𝒪(δ⁻².²⁵)回のオракル呼び出しで収束を達成する。また、モデルに依存しないメタラーニング（MAML）と合成最適化の間の新たな接続を確立し、メタラーニングおよびポートフォリオ最適化タスクにおいて、最先端の収束速度と顕著なサンプル複雑度の低減を実証した。

ABSTRACT

In this paper, we present C-ADAM, the first adaptive solver for compositional problems involving a non-linear functional nesting of expected values. We proof that C-ADAM converges to a stationary point in $\mathcal{O}(δ^{-2.25})$ with $δ$ being a precision parameter. Moreover, we demonstrate the importance of our results by bridging, for the first time, model-agnostic meta-learning (MAML) and compositional optimisation showing fastest known rates for deep network adaptation to-date. Finally, we validate our findings in a set of experiments from portfolio optimisation and meta-learning. Our results manifest significant sample complexity reductions compared to both standard and compositional solvers.

研究の動機と目的

• 非線形的ネスト構造を有する期待値の組み合わせを含む合成最適化問題に対して、適応的かつ確率的ソルバが不足しているという問題を解決すること。
• 初めてとして、モデルに依存しないメタラーニング（MAML）と合成最適化を結びつけることで、少数のサンプルでの学習に適したスケーラブルで適応的な最適化を可能にすること。
• 現実的なハイパーパrameter設定（β₁, β₂ ≠ 0）のもとで、適応的合成最適化の理論的収束保証を提供し、ADAMの解析を理想化された仮定を超えて拡張すること。
• 標準的および合成的ソルバーよりも優れたサンプル効率と性能を示し、メタラーニングおよびポートフォリオの平均・分散最適化タスクにおいて実証すること。

提案手法

• C-ADAMを提案する。これは、ADAMを非線形的関数的ネスト構造を有する合成目的関数に対応させるために拡張した、適応的確率的最適化手法である。
• 非線形的関数的ネスト構造を再帰的勾配推定によって処理しつつ、適応的学習率を維持する、新しいアルゴリズムフレームワークを導入する。
• 現実的なハイパーパrameter（β₁, β₂ ≠ 0）のもとで収束境界を導出することで、先行研究のADAM収束証明を合成的設定に拡張する。
• MAMLを二段階のネストされた期待値問題として定式化し、これにより合成最適化手法をメタラーニングに応用可能にする。
• 深層学習応用における実用性とスケーラビリティを確保するため、単一ループかつミニバッチ対応のアルゴリズムを実装する。
• 確率的合成最適化におけるサンプル効率を向上させるために、分散低減技術を統合する。

実験結果

リサーチクエスチョン

• RQ1 非線形的期待値のネスト構造を有する合成最適化問題に対して、適応的かつ確率的ソルバを設計可能か？
• RQ2 このようなソルバのオракル複雑度としての理論的収束速度はどの程度か？
• RQ3 本手法は、標準的および先行の合成的ソルバーよりもサンプル効率と収束速度において優れているか？
• RQ4 MAMLと合成最適化の間の関係を形式的に確立し、それをメタラーニング性能の向上に活用可能か？
• RQ5 C-ADAMは非凸的かつ深層ネットワークの適応状況において、既存手法よりも優れた収束速度を達成するか？

主な発見

• C-ADAMは理論的に𝒪(δ⁻².²⁵)の1次オラクル呼び出しで収束を達成し、先行の合成的ソルバーよりも優れた𝒪(δ⁻³.⁵)および𝒪(δ⁻⁴)の複雑度を改善した。
• ポートフォリオ最適化およびメタラーニングの両タスクにおいて、顕著なサンプル複雑度の低減を示し、ADAMおよび他のベースラインと比較して、複数のデータセットで優れた性能を発揮した。
• 100資産ポートフォリオ最適化において、C-ADAMはAGD、Adam、および他のソルバーよりも一貫して優れた性能を示し、特に大規模データセット（m=137810, n=100）で顕著であった。
• 地域ベースのポートフォリオデータセット（m=7240, n=25）において、C-ADAMはBook-to-Market、Operating Profitability、Investment要因のすべてにおいて優れた性能を発揮した。
• 少数のサンプルでの回帰タスクにおいて、C-ADAM（C-MAML経由）はOmniglotおよびMiniImageNetで最先端の性能を達成し、特に1ショットおよび5ショット20クラス設定で顕著であった。
• 理論的分析により、MAMLを合成的最適化問題として再定式化できることを確認し、非凸設定下でも新たな収束保証を導出可能であることを示した。