[論文レビュー] Expert Training: Task Hardness Aware Meta-Learning for Few-Shot Classification

Yucan Zhou, Yu Wang+4 more|arXiv (Cornell University)|Jul 13, 2020

Domain Adaptation and Few-Shot Learning参考文献 49被引用数 9

ひとこと要約

本稿では、容易なタスクから順次学習することで少数ショット画像分類の性能を向上させる、タスクの難易度に配慮したメタラーニングフレームワーク「Expert Training」を提案する。HSIC やユークリッド距離といった指標を用いてカテゴリの区別可能性を推定するタスク難易度に配慮したモジュール（THAM）を統合することで、メタラーナーの一般化性能が向上し、特に 5 ワイ 1 ショット設定において、miniImageNet および tieredImageNetSketch で最先端の性能を達成した。

ABSTRACT

Deep neural networks are highly effective when a large number of labeled samples are available but fail with few-shot classification tasks. Recently, meta-learning methods have received much attention, which train a meta-learner on massive additional tasks to gain the knowledge to instruct the few-shot classification. Usually, the training tasks are randomly sampled and performed indiscriminately, often making the meta-learner stuck into a bad local optimum. Some works in the optimization of deep neural networks have shown that a better arrangement of training data can make the classifier converge faster and perform better. Inspired by this idea, we propose an easy-to-hard expert meta-training strategy to arrange the training tasks properly, where easy tasks are preferred in the first phase, then, hard tasks are emphasized in the second phase. A task hardness aware module is designed and integrated into the training procedure to estimate the hardness of a task based on the distinguishability of its categories. In addition, we explore multiple hardness measurements including the semantic relation, the pairwise Euclidean distance, the Hausdorff distance, and the Hilbert-Schmidt independence criterion. Experimental results on the miniImageNet and tieredImageNetSketch datasets show that the meta-learners can obtain better results with our expert training strategy.

研究の動機と目的

• 標準的なメタラーニングでは、ランダムに抽出されたタスクが等しく扱われるため、収束が悪く、最適でない性能が得られるという限界を解消すること。
• 容易なタスクから難しいタスクへと優先順位をつけるカリキュラム学習戦略を導入することで、メタラーナーの一般化性能を向上させること。
• 少数ショットエピソードにおけるカテゴリの区別可能性に基づいてタスク難易度を推定するタスク難易度に配慮したモジュール（THAM）を設計すること。
• 意味的関係、ペアワイズユークリッド距離、ハウスドルフ距離、HSIC のような複数の難易度測定法がメタラーニング性能に与える影響を評価すること。
• 推定された難易度に基づいて訓練タスクの順序を再編成することで、未知の少数ショットタスクにおいてもより良い一般化性能が得られることを示すこと。

提案手法

• 本手法は二段階の訓練戦略を導入する：まず、基本的な分類能力を構築するための容易なタスクに対するプライマリ学習フェーズを実施し、次に、メタラーナーの微調整を目的とした難しいタスクに焦点を当てた高度フェーズを実施する。
• タスク難易度に配慮したモジュール（THAM）をメタトレーニングパイプラインに統合し、カテゴリレベルの区別可能性指標を用いてタスク難易度を推定する。
• THAM は二通りの形で実装される：クラスの意味的性質に基づく意味的 THAM（Se-THAM）と、微分可能距離指標（HSIC やユークリッド距離など）を用いた計算可能 THAM（Co-THAM）。
• 難易度スコアは、訓練中のメタロスを再重み付けするために使用され、第二フェーズでは難しいタスクが優先され、動的かつカリキュラム学習が適用される。
• 本フレームワークは MAML および Relation Net に適用され、さらに MTL 環境下で事前学習済みの ResNet-12 バックボーンを統合することで、最先端の結果が得られた。
• 訓練はエピソードベースのメタラーニングを用い、サポート/クエリの分割を行い、メタラーナーは推定されたタスク難易度に条件付けられたクエリ損失の逆誤差伝搬により更新される。

実験結果

リサーチクエスチョン

• RQ1 容易なタスクから難しいタスクへと順序をつけて訓練するカリキュラム学習戦略が、少数ショット画像分類におけるメタラーナー性能を向上させることができるか？
• RQ2 少数ショットエピソードにおけるカテゴリの区別が困難な度合いを反映する形で、タスク難易度を効果的に推定する方法は何か？
• RQ3 意味的類似度、ユークリッド距離、ハウスドルフ距離、HSIC といった異なる難易度測定法を用いることで、メタラーナーの訓練性能に顕著な差が生じるか？
• RQ4 難易度に配慮したカリキュラム学習を用いたエキスパートトレーニングは、標準的なメタラーニングや難易度の高いタスクのみを対象とした訓練戦略よりも一般化性能が優れているか？
• RQ5 テスト段階において、特に意味的に容易なタスクと困難なタスクの両方で、エキスパートトレーニングの性能はどのように変動するか？

主な発見

• Co-THAM-HSIC を用いた Expert Training は、5 ワイ 1 ショットの miniImageNet で 49.54% の精度を達成し、標準的な MAML（48.70%）および MAML-HT（49.10%）を上回った。
• 5 ワイ 5 ショットタスクでは、66.10% の精度を達成し、ベースラインの MAML（63.11%）および MAML-HT（64.10%）を顕著に上回った。
• tieredImageNetSketch では、意味的に容易なタスクで 84.70%、困難なタスクで 63.02% の精度を記録し、Meta-SGD よりそれぞれ 6.31%、4.43% の上回りを記録した。
• MTL-ResNet-ET-Co-THAM-HSIC モデルは、5 ワイ 1 ショットで 62.01%、5 ワイ 5 ショットで 75.27% の精度を達成し、miniImageNet において新たな最先端の結果を樹立した。
• 大きなバッチサイズが性能向上に寄与することを示した。これは、メタ更新ごとにより多くの訓練タスクを活用できることを示唆し、スケーラビリティの可能性を示した。
• Co-THAM が常に Se-THAM を上回った。これは、微分可能でエンドツーエンドの難易度推定が、メタラーナー最適化とより効果的に統合できることを示している。