[論文レビュー] Concept Learners for Few-Shot Learning

Kaidi Cao, Maria Brbić+1 more|arXiv (Cornell University)|Jul 14, 2020

Domain Adaptation and Few-Shot Learning参考文献 51被引用数 4

ひとこと要約

本論文では、人間が理解可能な概念を用いて概念固有のメトリクス空間を学習することで、少サンプル一般化を向上させるメタラーニングフレームワークであるCOMETを提案する。構造化された概念次元に沿って独立した概念学習者を訓練し、それらの予測をアンサンブル化することで、画像、テキスト、生物学的データを含む多様な少サンプルタスクにおいて、最先端の手法よりも6–15%の相対的精度向上を達成した。また、概念ベースの推論により、予測が inherently 解釈可能であることも特徴である。

ABSTRACT

Developing algorithms that are able to generalize to a novel task given only a few labeled examples represents a fundamental challenge in closing the gap between machine- and human-level performance. The core of human cognition lies in the structured, reusable concepts that help us to rapidly adapt to new tasks and provide reasoning behind our decisions. However, existing meta-learning methods learn complex representations across prior labeled tasks without imposing any structure on the learned representations. Here we propose COMET, a meta-learning method that improves generalization ability by learning to learn along human-interpretable concept dimensions. Instead of learning a joint unstructured metric space, COMET learns mappings of high-level concepts into semi-structured metric spaces, and effectively combines the outputs of independent concept learners. We evaluate our model on few-shot tasks from diverse domains, including fine-grained image classification, document categorization and cell type annotation on a novel dataset from a biological domain developed in our work. COMET significantly outperforms strong meta-learning baselines, achieving 6-15% relative improvement on the most challenging 1-shot learning tasks, while unlike existing methods providing interpretations behind the model's predictions.

研究の動機と目的

• メタラーニングに構造的で人間が理解可能な概念を組み込むことで、少サンプル学習における一般化ギャップを解消すること。
• 低データ環境におけるモデルの解釈可能性を向上させることで、予測を高レベルで再利用可能な概念に根ざさせること。
• 手動で定義された概念や非教師ありの概念発見の両方と連携できるドメインに依存しない手法を開発すること。
• 概念次元に沿った構造的表現学習が、精度を損なうことなく一般化を向上させることを示すこと。
• メタラーニングを用いた単一細胞生物学における少サンプル学習のための新しいベンチマークを構築すること。

提案手法

• COMETは、概念固有のニューラル埋め込み関数を用いて、各高レベルの概念ごとに別々のメトリクス空間を学習する。
• 各概念学習者は、その概念次元におけるクラスレベルの差を反映するプロトタイプを自身のメトリクス空間に定義する。
• 予測の整合性と精度を向上させるために、複数の概念学習者の予測を重み付きアンサンブル機構で統合する。
• 局所的およびグローバルスコアリング機構を用いて概念の重要性を特定し、ノイズが多いか重複する集合から関連のある概念を選択可能にする。
• 概念は外部の知識ベースから得ることも、データから非教師ありに発見することもできる。
• アーキテクチャは本質的に解釈可能であり、個々の概念学習者およびそのプロトタイプの寄与に基づいて説明が得られる。

実験結果

リサーチクエスチョン

• RQ1 人間が理解可能な概念次元に沿った学習は、非構造的なメトリクス学習をはるかに超えて少サンプル一般化を向上させることができるか？
• RQ2 生物学的分野を含む多様な分野において、COMETは最先端のメタラーニングベースラインと比較してどの程度の性能を示すか？
• RQ3 手動によるアノテーションなしに、非教師ありの概念発見をどの程度活用できるか？
• RQ4 COMETは、低データ環境において、忠実で人間が理解可能な説明を提供できるか？
• RQ5 概念固有の学習者をアンサンブル化することは、統合されたメトリクス空間学習よりも優れた一般化を実現できるか？

主な発見

• COMETは、最も挑戦的な1ショット学習タスクにおいて、強力なメタラーニングベースラインを6–15%の相対的向上率で上回った。
• 細分化された画像分類、ドキュメント分類、および生物学的分野における新規の単一細胞トランスクリプトームベンチマークにおいて、既存の手法を著しく上回った。
• COMETは、各意思決定に寄与した概念とプロトタイプを明示することで、予測が inherently 解釈可能である。
• 初期の概念が多数ありノイズが多いか重複している場合でも、COMETは効果的に一般化でき、関連性の高い概念を自動で選択した。
• COMETは、手動で整備された概念と非教師ありの概念発見の両方で優れた性能を示し、ドメインに依存しない性質を実証した。
• 定量的および定性的な評価から、COMETが生成する説明は人間の推論と整合しており、後処理による説明手法よりも信頼性が高かった。