[論文レビュー] Instance Credibility Inference for Few-Shot Learning

Yikai Wang, Chengming Xu+3 more|arXiv (Cornell University)|Mar 26, 2020

Domain Adaptation and Few-Shot Learning参考文献 56被引用数 9

ひとこと要約

本稿では、スパarsityに基づく信頼性スコアを用いて、不均衡なラベルなしデータから信頼性の高い疑似ラベル付きインスタンスを段階的に選択することで、少数ショット学習に効果的かつシンプルな統計的手法であるインスタンス信頼性推論（ICI）を提案する。線形分類器を信頼性の高い訓練セットを段階的に拡大しながら再訓練することで、miniImageNet、tieredImageNet、CIFAR-FS、CUBの4つの主要な少数ショット学習ベンチマークで最先端の性能を達成する。

ABSTRACT

Few-shot learning (FSL) aims to recognize new objects with extremely limited training data for each category. Previous efforts are made by either leveraging meta-learning paradigm or novel principles in data augmentation to alleviate this extremely data-scarce problem. In contrast, this paper presents a simple statistical approach, dubbed Instance Credibility Inference (ICI) to exploit the distribution support of unlabeled instances for few-shot learning. Specifically, we first train a linear classifier with the labeled few-shot examples and use it to infer the pseudo-labels for the unlabeled data. To measure the credibility of each pseudo-labeled instance, we then propose to solve another linear regression hypothesis by increasing the sparsity of the incidental parameters and rank the pseudo-labeled instances with their sparsity degree. We select the most trustworthy pseudo-labeled instances alongside the labeled examples to re-train the linear classifier. This process is iterated until all the unlabeled samples are included in the expanded training set, i.e. the pseudo-label is converged for unlabeled data pool. Extensive experiments under two few-shot settings show that our simple approach can establish new state-of-the-arts on four widely used few-shot learning benchmark datasets including miniImageNet, tieredImageNet, CIFAR-FS, and CUB. Our code is available at: https://github.com/Yikai-Wang/ICI-FSL

研究の動機と目的

• ラベル付きデータの不足に起因する課題を克服するため、ラベルなしデータを活用してモデルの一般化性能を向上させること。
• 信頼性の高い疑似ラベル付きインスタンスを正確に同定・選択することで、ノイズに起因する性能劣化を回避する手法を開発すること。
• 複雑なメタラーニングやデータ拡張戦略に依存せずに、少数ショット学習の性能を向上させること。
• 信頼性の高いラベルなしサンプルを段階的に追加する、堅牢で反復的なフレームワークを確立すること。

提案手法

• 初期の線形分類器（例：ロジスティック回帰）を、少数のラベル付きサポートセット例に学習させる。
• 訓練済み分類器を用いて、すべてのラベルなしインスタンスの疑似ラベルを予測する。
• 特徴量を疑似ラベルにマップする線形回帰仮説を適用し、付随するパrameterのスパarsityを高めて信頼性を測定する。
• スパarsity度に基づいて、すべての疑似ラベル付きインスタンスをランク付けし、信頼性スコアとする。
• 各クラスごとに上位-k 個の信頼性の高い疑似ラベル付きインスタンスを選択し、拡張されたサポートセットで分類器を再訓練する。
• すべてのラベルなしインスタンスが含まれ、疑似ラベルが収束するまでこのプロセスを繰り返す。

実験結果

リサーチクエスチョン

• RQ1 複雑なメタラーニングやデータ拡張手法よりも、シンプルな統計的手法が少数ショット学習で優れた性能を発揮できるか？
• RQ2 ノイズの蓄積を避けるために、信頼性の高い疑似ラベル付きインスタンスをどのように信頼性の高い方法で同定・選択できるか？
• RQ3 高信頼性インスタンスの反復的選択は、一度きりの選択に比べて、より良い収束性と性能をもたらすか？
• RQ4 初期分類器の精度や特徴空間の次元数に、この手法の性能がどれほど依存するか？
• RQ5 さまざまな次元削減技術や特徴空間において、この手法は堅牢か？

主な発見

• ICIは、miniImageNet、tieredImageNet、CIFAR-FS、CUBの4つの広く使われている少数ショット学習ベンチマークで、新たな最先端の性能を達成した。
• 5クラス1ショットのminiImageNetでは、次元削減をd=5にした場合、66.80%の正確性を達成し、すべてのベースラインを上回った。
• 反復的選択戦略（例：2回の反復におけるICI(3)）は、一度きりの選択（例：ICI(8)）よりも顕著に優れており、ノイズ低減と収束性向上に寄与した。
• 初期分類器の精度が低くてもICIは頑健であり、初期精度が30〜40%程度であっても性能向上が観察された。
• 複数の次元削減手法にわたって安定した性能を示し、PCAとIsomapが最も優れた結果をもたらしたが、MDSは顕著に劣った。
• 特徴空間の次元削減における最適な次元はd=5であり、信頼性に基づくスパarsityランクが最も高い性能を発揮した。