[論文レビュー] Learning Prototype-oriented Set Representations for Meta-Learning

Dandan Guo, Long Tian+3 more|arXiv (Cornell University)|Oct 18, 2021

Domain Adaptation and Few-Shot Learning参考文献 40被引用数 4

ひとこと要約

本論文は、メタラーニングにおける集合構造データの要約ネットワークを向上させるために、各集合をグローバルプロトタイプ上の分布としてモデル化し、経験的集合分布とプロトタイプベースの分布の間の正則化された最適輸送距離を最小化する、プロトタイプ指向の最適輸送（POT）フレームワークを提案する。この手法は、少サンプル分類および生成モデルにおいて、MNIST、Flowers、Animal Facesベンチマークで最先端の性能を達成する特徴表現学習を強化する。

ABSTRACT

Learning from set-structured data is a fundamental problem that has recently attracted increasing attention, where a series of summary networks are introduced to deal with the set input. In fact, many meta-learning problems can be treated as set-input tasks. Most existing summary networks aim to design different architectures for the input set in order to enforce permutation invariance. However, scant attention has been paid to the common cases where different sets in a meta-distribution are closely related and share certain statistical properties. Viewing each set as a distribution over a set of global prototypes, this paper provides a novel prototype-oriented optimal transport (POT) framework to improve existing summary networks. To learn the distribution over the global prototypes, we minimize its regularized optimal transport distance to the set empirical distribution over data points, providing a natural unsupervised way to improve the summary network. Since our plug-and-play framework can be applied to many meta-learning problems, we further instantiate it to the cases of few-shot classification and implicit meta generative modeling. Extensive experiments demonstrate that our framework significantly improves the existing summary networks on learning more powerful summary statistics from sets and can be successfully integrated into metric-based few-shot classification and generative modeling applications, providing a promising tool for addressing set-input and meta-learning problems.

研究の動機と目的

• 既存の要約ネットワークが集合から意味的で転送可能な要約統計を捉える能力に制限を受けること、特に低ショットまたはメタラーニング設定下での課題に対処する。
• グローバルプロトタイプに基づく分布モデリングアプローチを導入することで、集合符号化ネットワークの表現力の向上を図る。
• 最適輸送を介した差分可能で非教師あり正則化機構を提供し、タスク固有の再トレーニングなしにモデルの一般化性能を向上させる。
• 関連するタスク間で共通の構造的表現を学習することで、未観測の集合や分布へのより良い適応を可能にする。
• 要約ネットワークの適用範囲を、教師あり少サンプル分類および非教師あり暗黙的生成モデリングの両方へ拡張する。

提案手法

• 入力集合をそのデータポイント上の経験的分布と、K個のグローバルで学習可能なプロトタイプ上のプロトタイプベースの分布としてモデル化する。
• 要約ネットワーク（例：Set Transformer、DeepSets）を用いて入力集合をプロトタイプの割合ベクトル h_j に符号化し、各グローバルプロトタイプの重要性を表す。
• 学習目的を、経験的分布 P_j とプロトタイプベースの分布 Q_j の間の正則化された最適輸送（OT）距離の最小化として定式化する。
• タスク固有の損失（分類では交差エントロピー、生成ではGAN損失など）とプロトタイプ指向のOT損失を、エンドツーエンドの方法で同時に最適化する。
• 差分可能で非教師ありの正則化項を導入し、要約ネットワークがより強固で転送可能な表現を学習するよう促進する。
• メトリックベースの少サンプル分類および暗黙的メタ生成モデリングの両方のタスクに、最小限のアーキテクチャ変更でフレームワークを適用する。

実験結果

リサーチクエスチョン

• RQ1 プロトタイプベースの分布モデリングアプローチは、集合構造入力の要約ネットワークの表現能力を向上させることができるか？
• RQ2 経験的分布とプロトタイプベースの分布の間の最適輸送を組み込むことで、少サンプル学習における一般化性能はどのように向上するか？
• RQ3 提案されたPOTフレームワークは、限られたデータ条件下での暗黙的生成モデリングの性能をどの程度向上させるか？
• RQ4 このフレームワークは、アーキテクチャの大幅な見直しを伴わずに、既存のメタラーニングモデルにプラグインモジュールとして適用可能か？
• RQ5 非教師ありOT正則化は、教師ありベースラインと比較して未観測の分布への一般化性能を向上させるか？

主な発見

• POTフレームワークは、少サンプル画像分類においてベースライン要約ネットワークを顕著に改善し、Omniglotおよびmini-ImageNetで最先端の性能を達成した。
• 回転させたMNISTベンチマークでは、CGAN+POTがA = -180°でFIDを213.30から159.51に低下させ、未観測の回転角度への一般化性能が優れたことを示した。
• FlowersおよびAnimal Facesにおける少サンプル画像生成では、DAGAN+POTが最低のFIDスコアを達成し、より現実的で多様なサンプル生成を実現した。
• POT損失は、ゼロショット一般化をより良く可能にし、未観測のAnimal FacesカテゴリにおいてDAGAN+POTがDAGANを17.1%上回ったFIDスコアを達成した。
• 複数のベンチマークおよびタスクにわたり一貫した改善が得られ、このフレームワークがプラグアンドプレイな正則化器として有効であることを検証した。
• 構造的プロトタイプ表現のおかげで、低ショットおよび分布シフトの条件下でも、集合の顕著な統計的特徴を効果的に捉えることができた。