[論文レビュー] Multi-Objective Meta Learning

Feiyang Ye, Baijiong Lin+4 more|arXiv (Cornell University)|Feb 14, 2021

Domain Adaptation and Few-Shot Learning参考文献 56被引用数 8

ひとこと要約

本稿では、マルチオブジェクティブなメタラーニングにおける複数の矛盾する目的を統合的に最適化できる、勾配ベースの統一的フレームワークであるマルチオブジェクティブ・メタラーニング（MOML）を提案する。このフレームワークは、マルチオブジェクティブなバイレベル最適化問題（MOBLP）として定式化されており、下位レベルの適応と上位レベルのマルチオブジェクティブ最適化を交互に勾配降下法とMGDAを用いて解くことで、少数のサンプル学習、ニューラルアーキテクチャ探索、ドメイン適応、マルチタスクラーニングの分野で、経験的に優れた収束性能を達成する。

ABSTRACT

Meta learning with multiple objectives can be formulated as a Multi-Objective Bi-Level optimization Problem (MOBLP) where the upper-level subproblem is to solve several possible conflicting targets for the meta learner. However, existing studies either apply an inefficient evolutionary algorithm or linearly combine multiple objectives as a single-objective problem with the need to tune combination weights. In this paper, we propose a unified gradient-based Multi-Objective Meta Learning (MOML) framework and devise the first gradient-based optimization algorithm to solve the MOBLP by alternatively solving the lower-level and upper-level subproblems via the gradient descent method and the gradient-based multi-objective optimization method, respectively. Theoretically, we prove the convergence properties of the proposed gradient-based optimization algorithm. Empirically, we show the effectiveness of the proposed MOML framework in several meta learning problems, including few-shot learning, neural architecture search, domain adaptation, and multi-task learning.

研究の動機と目的

• マルチオブジェクティブ・メタラーニングにおける勾配ベースで収束保証のある最適化手法の不足を解消すること。
• 少数のサンプル学習、NAS、ドメイン適応、マルチタスクラーニングといった多様なメタラーニング問題を、統一支配方程式（MOBLP）で統一すること。
• 下位レベルの適応と上位レベルのマルチオブジェクティブ最適化を交互に実行する勾配ベースの最適化アルゴリズムを開発すること。
• 提案されたMOML最適化アルゴリズムに理論的収束保証を提供すること。
• MOMLの有効性を、複数の目的を持つ多様なメタラーニングアプリケーションにおいて経験的に検証すること。

提案手法

• 複数の目的を持つメタラーニングを、上位レベルで複数の目的を最適化し、下位レベルで個々のタスクに適応するマルチオブジェクティブ・バイレベル最適化問題（MOBLP）として定式化する。
• 下位レベルのサブプロブレムに対して勾配降下法を、上位レベルのサブプロブレムに対して勾配ベースのマルチオブジェクティブ手法（例：MGDA）を交互に実行する勾配ベースの最適化アルゴリズムを提案する。
• 陰関数定理を用いて下位レベルの解を通じた勾配を計算し、バイレベル構造全体にわたるエンドツーエンドのバックプロパゲーションを可能にする。
• メタパラメータを複数の目的における検証性能に基づいて最適化するバイレベル定式化を採用し、一般化性能を確保する。
• 少数のサンプル学習、NAS、ドメイン適応、マルチタスクラーニングなど、さまざまな学習問題に適用可能な統一的MOMLフレームワークを導入する。
• 上位レベル最適化でMGDAを適用し、複数の目的が矛盾する状況において、同時にすべての目的を改善する降下方向を特定する。

実験結果

リサーチクエスチョン

• RQ1 理論的収束保証を伴う勾配ベースの最適化手法を開発できるか、マルチオブジェクティブ・メタラーニングに適用可能か？
• RQ2 メタラーニングにおける複数の矛盾する目的を、統一支配方程式で一体的に最適化できるか？
• RQ3 提案されたMOMLフレームワークは、既存の単一目的または進化的アプローチを上回る性能を示すか？
• RQ4 MOMLフレームワークは、少数のサンプル学習、NAS、ドメイン適応、マルチタスクラーニングといった多様なメタラーニング問題に効果的に適用可能か？
• RQ5 検証ベースの目的関数を用いたバイレベル定式化は、トレーニングベースの重み付け戦略に比べて一般化性能をどのように向上させるか？

主な発見

• Office-Homeデータセットにおいて、MOMLはSTLおよびDMTLに様々な重み付け戦略を適用した場合に比して優れた性能を示し、平均正答率80.31%を達成したのに対し、STLは79.56%であった。
• Office-Homeデータセットにおいて、MOMLは4つのタスクのうち3つ（Ar, Cl, Pr）で最高の性能を記録し、全MTL手法の中で平均正答率で第1位を獲得した。
• MOMLは、等しい重み（EW）戦略に比して平均性能が優れており、トレーニングベースの損失重み付けよりも検証ベースのバイレベル最適化の利点を示している。
• MOMLは、STLに比べてArおよびRwのタスクで性能を向上させた。これは、マルチオブジェクティブ最適化による共同学習が一般化性能を向上させることを示している。
• バイレベルでマルチオブジェクティブな定式化により、タスク重みとモデルパラメータを同時に最適化することで、マルチタスクラーニング分野で最先端の結果を達成した。
• 経験的結果から、MOMLが多様なメタラーニングアプリケーションにおいて、モデルの性能と頑健性といった複数の矛盾する目的を効果的にバランスさせられることを確認した。