[論文レビュー] Infinite Mixture Prototypes for Few-Shot Learning

Kelsey R. Allen, Evan Shelhamer+2 more|arXiv (Cornell University)|Feb 12, 2019

Domain Adaptation and Few-Shot Learning被引用数 80

ひとこと要約

Infinite Mixture Prototypes (IMP) を紹介します。データから推定される複数のクラスタを各クラスに割り当て、最寄り近傍とプロトタイプ表現の間の適応的容量を実現し、few-shot 学習、 semi-supervised 学習、unsupervised clustering を改善。

ABSTRACT

We propose infinite mixture prototypes to adaptively represent both simple and complex data distributions for few-shot learning. Our infinite mixture prototypes represent each class by a set of clusters, unlike existing prototypical methods that represent each class by a single cluster. By inferring the number of clusters, infinite mixture prototypes interpolate between nearest neighbor and prototypical representations, which improves accuracy and robustness in the few-shot regime. We show the importance of adaptive capacity for capturing complex data distributions such as alphabets, with 25% absolute accuracy improvements over prototypical networks, while still maintaining or improving accuracy on the standard Omniglot and mini-ImageNet benchmarks. In clustering labeled and unlabeled data by the same clustering rule, infinite mixture prototypes achieves state-of-the-art semi-supervised accuracy. As a further capability, we show that infinite mixture prototypes can perform purely unsupervised clustering, unlike existing prototypical methods.

研究の動機と目的

• 単純なクラス分布と多モードなクラス分布の両方を扱えるよう、few-shot 学習における適応的なモデル容量を動機づける。
• データから推定された可変数のクラスタ数で各クラスを表現する Infinite Mixture Prototypes (IMP) を導入する。
• 半教師ありおよび完全な自己教師ありクラスタリングのシナリオへアプローチを拡張する。
• Omniglot および mini-ImageNet に対して、特に複雑なアルファベットでの性能向上を実証し、単純なクラスでの性能を維持する。

提案手法

• 各クラスを、学習可能なクラスタ平均と分散を持つクラスタの集合として表現する。
• エピソード処理中に、DP-means に触発されたクラスタリングを用いて各クラスのクラスタ数を推定する。
• クラスタが定義される特徴空間へ入力を写像する深い埋め込み h_phi を学習する。
• ラベル付きデータとラベルなしデータで別々のクラスタ分散 sigma_l と sigma_u を取り入れ、エンドツーエンドで学習する。
• 多モーダル性を過度に罰しないよう、各クラスで最も近いクラスタに焦点を当てたマルチモーダル損失を最適化する。
• 新しいクラスタを作成する閾値 lambda を、CRP濃度と学習済み分散との関係を介して間接的に適応させる（式に触発された）。
• 各クラス内で最も近いクラスタとの距離でクエリを分類し、これらのクラスごとに最も近いクラスタに対してソフトマックスを適用する。

実験結果

リサーチクエスチョン

• RQ1 クラスごとに適応的で多モードなクラスタリングは、単モードのプロトタイプよりも few-shot 分類を改善できるか。
• RQ2 クラスタごとの分散を学習し、マルチモーダルクラスタリングを導入することで、同じフレームワーク内で未ラベルデータの有効活用と自己教師なしクラスタリングを実現できるか。
• RQ3 IMP は、単純な（単モード） vs 複雑な（多モード）データ分布（例：Omniglot の文字 vs アルファベット）および半教師あり設定でどのように性能を示すか。
• RQ4 固定容量のプロトタイプネットワークと比較して、クラスタ容量のエンドツーエンド学習はタスクやデータセット全体で堅牢か。

主な発見

• IMP は複雑な多モーダルアルファベット（Omniglot のアルファベット）で高い精度を達成し、単純な文字での性能を維持する。
• クラスタ分散（sigma）を学習し、マルチモーダルクラスタリングを可能にすると、few-shot 精度と頑健性が大幅に向上し、特に半教師あり設定で顕著である。
• IMP はラベルありデータとラベルなしデータのクラスタリングを単一の規則の下で統合し、プロトタイプネットワークには実現できない完全な自己教師なしクラスタリングを可能にする。
• 実験では、Omniglot および mini-ImageNet のベンチマークで、完全監視および半監視の両方の設定において、近傍法やプロトタイプ法より競争力がある、または優れる結果を示す。
• アブレーション研究は、ラベル付きデータとラベルなしデータのための別々の sigma_l と sigma_u が共有 sigma より結果を改善し、また新しいクラスタを作成する閾値の選択に対して多モーダル手法がより堅牢であることを示している。