[論文レビュー] Leveraging the Feature Distribution in Transfer-based Few-Shot Learning

Yuqing Hu, Vincent Gripon+1 more|arXiv (Cornell University)|Jun 6, 2020

Domain Adaptation and Few-Shot Learning参考文献 43被引用数 32

ひとこと要約

本論文は、2段階の移転ベースの少数ショット学習手法を提案する。1) バックボーン特徴をガウス様分布に近づけるべくパワー変換で前処理、2) MAP/Sinkhornベースの最適輸送アルゴリズム（トランダクティブ）を適用してクラス中心を精練し、複数のデータセットとバックボーンにわたり最先端の結果を達成する。

ABSTRACT

Few-shot classification is a challenging problem due to the uncertainty caused by using few labelled samples. In the past few years, many methods have been proposed to solve few-shot classification, among which transfer-based methods have proved to achieve the best performance. Following this vein, in this paper we propose a novel transfer-based method that builds on two successive steps: 1) preprocessing the feature vectors so that they become closer to Gaussian-like distributions, and 2) leveraging this preprocessing using an optimal-transport inspired algorithm (in the case of transductive settings). Using standardized vision benchmarks, we prove the ability of the proposed methodology to achieve state-of-the-art accuracy with various datasets, backbone architectures and few-shot settings.

研究の動機と目的

• Few-shotタスクにおいて、バックボーン特徴をガウス様の仮定に合わせるための特徴量分布前処理の活用を動機づける。
• Sinkhorn輸送を利用したMAP様の反復アルゴリズムを提案し、トランダクティブなクラス中心推定を行う。
• 軽量なハイパーパラメータで、多様なデータセットとバックボーンにおいて最先端の精度を示す。

提案手法

• バックボーン特徴にパワー変換を適用して歪みを低減し分散を正規化（PT）した後、単位分散投影を行う。
• ガウス様のクラス分布を仮定し、反復的な Sinkhorn に基づく最適輸送を通じてクラス中心の MAP 推定を行う。
• エントロピー正則化を伴うソフト割り当て行列 M* を用いて、ラベルなしのクエリ特徴をクラス中心にマッピングし、慣性パラメータで中心を更新する。
• 誘導設定では前処理後に最近傍型のクラス平均法で分類する。トランダクティブ設定では、結合されたラベルなし集合に対して MAP/Sinkhorn 手順を適用する。
• 歪みを表す beta、Sinkhorn正則化の lambda、中心更新の alpha など、少数のハイパーパラメータをデータセット間で調整し、複数の反復（n_steps）後の結果を報告する。

実験結果

リサーチクエスチョン

• RQ1 ガウス様分布への特徴量前処理は、移転ベースの少数ショット学習を改善できるか？
• RQ2 Sinkhorn輸送を組み込んだ MAP による割り当ては、トランザクティブな少数ショット設定におけるラベルなしクエリサンプルのラベリングを改善できるか？
• RQ3 バックボーンの選択とハイパーパラメータが標準ベンチマーク全体の性能にどう影響するか？
• RQ4 トランザクティブ設定におけるサンプル量が精度に与える実証的影響は？
• RQ5 提案手法はクラス不均衡やクロスドメインの状況に対して堅牢か？

主な発見

• 提案手法 PT+MAP は、複数のバックボーンで miniImageNet、tieredImageNet、CUB、CIFAR-FS などの複数のベンチマークで最先端の精度を達成する。
• パワー変換（PT）は特徴分布をガウス様形状へ大きく再形成し、後続の分類を助ける。
• MAP は Sinkhorn ベースの割り当てを用いることでトランダクティブ設定における中心推定とラベル割り当てを改善し、ベースラインを上回り、誘導的変種より顕著な利得を示す。
• 本手法は s（ショット）と q（未ラベルサンプル）を変えても高い性能を示し、クロスドメイン評価でも競争力を保つ。
• ハイパーパラメータの感度は限定的で、検証クラスと新規クラスでピーク性能が一致するため、データセット間の頑健性を示す。