[論文レビュー] MetaDiff: Meta-Learning with Conditional Diffusion for Few-Shot Learning

Baoquan Zhang, Luo, Chuyao+5 more|arXiv (Cornell University)|Jul 31, 2023

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

MetaDiffは、少样本学習における勾配降下プロセスを条件付き拡散ノイズ除去プロセスとしてモデル化する、新しいメタラーニングフレームワークを提案する。2次勾配の必要性を排除し、メモリ使用量を削減する。最適化過程におけるモデル重みのノイズ予測をタスク条件付きU-Netが行うことで、miniImageNetおよびtiered-ImageNetで最先端の性能を達成し、従来の勾配ベースのメタラーニング手法と比較して一貫して1〜3%の精度向上を実現する。

ABSTRACT

Equipping a deep model the abaility of few-shot learning, i.e., learning quickly from only few examples, is a core challenge for artificial intelligence. Gradient-based meta-learning approaches effectively address the challenge by learning how to learn novel tasks. Its key idea is learning a deep model in a bi-level optimization manner, where the outer-loop process learns a shared gradient descent algorithm (i.e., its hyperparameters), while the inner-loop process leverage it to optimize a task-specific model by using only few labeled data. Although these existing methods have shown superior performance, the outer-loop process requires calculating second-order derivatives along the inner optimization path, which imposes considerable memory burdens and the risk of vanishing gradients. Drawing inspiration from recent progress of diffusion models, we find that the inner-loop gradient descent process can be actually viewed as a reverse process (i.e., denoising) of diffusion where the target of denoising is model weights but the origin data. Based on this fact, in this paper, we propose to model the gradient descent optimizer as a diffusion model and then present a novel task-conditional diffusion-based meta-learning, called MetaDiff, that effectively models the optimization process of model weights from Gaussion noises to target weights in a denoising manner. Thanks to the training efficiency of diffusion models, our MetaDiff do not need to differentiate through the inner-loop path such that the memory burdens and the risk of vanishing gradients can be effectvely alleviated. Experiment results show that our MetaDiff outperforms the state-of-the-art gradient-based meta-learning family in few-shot learning tasks.

研究の動機と目的

• 勾配ベースのメタラーニングにおける高いメモリコストと勾配消失問題に取り組むこと。これは、内側の最適化パスを逆伝播することで生じる。
• 拡散モデルに類似したノイズ除去プロセスとして勾配降下プロセスを再解釈することで、メタラーニングの新しい視点を提示すること。
• ランダム初期化からターゲット重みへとベースラーナー重みを微分可能でメモリ効率の良い方法で最適化する、条件付き拡散フレームワークを設計すること。
• 二段階最適化を拡散ベースのメタオプティマイザー学習パラダイムに置き換えることで、少样本学習の性能を向上させること。

提案手法

• 内側ループの勾配降下プロセスを、ガウスノイズから最適値へと段階的にノイズ除去される逆方向の拡散プロセスとして再解釈する。
• 少样本のサポートセットデータを条件として、各拡散ステップにおけるノイズを予測するためのタスク条件付きU-Net（TCUNet）を提案する。
• 予測されたノイズと実際のノイズのL2差を最小化するノイズ除去損失を用いてモデルを学習する。
• メタオプティマイザーは拡散の方法で学習され、内側ループパスを逆伝播しないため、2次勾配の計算が不要になる。
• このフレームワークは、プロトタイプ分類器および線形分類器の両方へ適用され、異なるヘッドアーキテクチャへの一般化を示している。
• 訓練は、各時刻ステップにおけるノイズ予測の条件としてサポートセットが使用される、条件付き拡散設定でエンドツーエンドに実行される。

実験結果

リサーチクエスチョン

• RQ1 メタラーニングにおける勾配降下プロセスは、拡散モデルに類似したノイズ除去プロセスとして効果的にモデル化できるか？
• RQ2 二段階最適化を拡散ベースのメタオプティマイザーに置き換えることで、メモリ消費量を削減し、学習の安定性を向上させられるか？
• RQ3 少数のサポートサンプルでのみ、タスク条件付きU-Netが最適化過程におけるモデル重みのノイズを効果的に予測できるか？
• RQ4 提案されたMetaDiffフレームワークは、最先端の勾配ベースのメタラーニング手法と比較して優れた少样本学習性能を達成できるか？
• RQ5 提案手法は、異なるバックボーンネットワークや分類器タイプに対して、頑健で一般化可能か？

主な発見

• MetaDiffは、miniImageNetおよびtiered-ImageNetの両方で最先端の性能を達成し、従来の勾配ベースのメタラーニング手法と比較して、少样本精度で1〜3%の向上を実現した。
• 異なるバックボーン、特にConv4およびResNet12を含む、性能が一貫して向上し、強力な一般化能力とアーキテクチャに依存しない性質を示した。
• MetaDiffは、内側ループステップ数に関係なく、GPUメモリ使用量を一定に保つ。これに対して、MetaLSTM や ALFA などのベースラインは、内側ループステップ数に比例して増加する。
• アブレーションスタディの結果、タスク条件付きU-Netとノイズ予測のL2損失が重要であることが確認された。両方を削除すると、性能が1〜3%低下した。
• 収束解析から、MetaDiffは約450ステップのノイズ除去で安定化することが示され、信頼性の高い安定した学習ダイナミクスを示した。
• MetaDiffは異なる分類器へも良好に一般化され、プロトタイプ分類器および線形分類器の両方で優れた結果を達成した。これにより、広範な適用可能性が確認された。