[論文レビュー] AdarGCN: Adaptive Aggregation GCN for Few-Shot Learning

Jianhong Zhang, Manli Zhang+3 more|arXiv (Cornell University)|Feb 28, 2020

Domain Adaptation and Few-Shot Learning参考文献 48被引用数 4

ひとこと要約

本稿では、限定的な訓練サンプルを持つソースクラスとターゲットクラスを想定する、新しい設定である少サンプル少サンプル学習（FSFSL）における、適応的集約を備えた新規グラフ畳み込みネットワークAdarGCNを提案する。ラベルノイズ除去にGCNベースの手法を用いた清浄データと、ウェブクロールによるノイジーサンプルを組み合わせ、AdarGCNのマルチヘッド・マルチレベル適応的集約によりノイズと外れ値を抑制することで、mini-ImageNetとCUBにおいてそれぞれ71.48%および78.04%の精度を達成し、従来のFSL設定下でもベースラインを上回る最先端の性能を発揮する。

ABSTRACT

Existing few-shot learning (FSL) methods assume that there exist sufficient training samples from source classes for knowledge transfer to target classes with few training samples. However, this assumption is often invalid, especially when it comes to fine-grained recognition. In this work, we define a new FSL setting termed few-shot fewshot learning (FSFSL), under which both the source and target classes have limited training samples. To overcome the source class data scarcity problem, a natural option is to crawl images from the web with class names as search keywords. However, the crawled images are inevitably corrupted by large amount of noise (irrelevant images) and thus may harm the performance. To address this problem, we propose a graph convolutional network (GCN)-based label denoising (LDN) method to remove the irrelevant images. Further, with the cleaned web images as well as the original clean training images, we propose a GCN-based FSL method. For both the LDN and FSL tasks, a novel adaptive aggregation GCN (AdarGCN) model is proposed, which differs from existing GCN models in that adaptive aggregation is performed based on a multi-head multi-level aggregation module. With AdarGCN, how much and how far information carried by each graph node is propagated in the graph structure can be determined automatically, therefore alleviating the effects of both noisy and outlying training samples. Extensive experiments show the superior performance of our AdarGCN under both the new FSFSL and the conventional FSL settings.

研究の動機と目的

• 細かく分類可能な認識においてしばしば成立しない、既存の少サンプル学習（FSL）手法が十分なソースクラスデータを仮定しているという制限に対処する。
• 両方のクラス（ソースおよびターゲット）に僅かな訓練サンプルしか存在しない、新しいFSL設定「少サンプル少サンプル学習（FSFSL）」を提案する。
• 限られたソースクラスデータの拡張に用いられるウェブクロール画像のノイズを、GCNベースのラベルノイズ除去（LDN）手法により軽減する。
• 適応的集約を有するGCNフレームワークを活用することで、拡張された訓練データに残存するノイズに対しても耐性を持つ強力なFSLモデルを開発する。
• 提案されたAdarGCNモデルが、ノイズ耐性を備えるため、困難なFSFSL設定だけでなく、従来のFSL設定でも性能向上を示すことを実証する。

提案手法

• 2段階パイプラインを提案：まず、クラス名を用いてウェブ画像をクロールし、清浄なソース画像を正例、クロスクラス画像を負例として扱うGCNベースのラベルノイズ除去（LDN）モデルでノイズ除去を行う。
• ノードごとに動的プロパゲーション重みを学習するマルチヘッド・マルチレベル集約モジュールを備えた、新規の適応的集約GCN（AdarGCN）を設計する。
• 学習可能なパラメータを有する集約ゲートを導入し、複数のアテンションヘッドを融合することで、ノイズや外れ値の影響を低減し、その影響を制限する。
• スキップ接続と適応的集約を採用し、標準的なGCNとは異なり、過剰なスムージングを引き起こさずに最大7層の深層GCNアーキテクチャを安定化させる。
• LDNおよびFSLタスクの両方で同じAdarGCNモデルを適用し、パイプラインの両段階でノイズ耐性を活用する。
• 複数のアテンションヘッドを用いて、層ごとに異なるプロパゲーションパターンを学習し、可視化によりヘッドおよび層ごとの重み分布の差が明確に確認される。

実験結果

リサーチクエスチョン

• RQ1 ウェブクロール画像を用いて、ソースクラスとターゲットクラスの両方が僅かなラベル付きサンプルしか持たない、少サンプル少サンプル学習（FSFSL）設定を効果的に取り扱えるか？
• RQ2 ウェブから取得したノイジーな画像を、少サンプル学習のための信頼できる訓練データとして効果的にクリーニングするにはどうすればよいか？
• RQ3 ノイジーまたは外れ値の影響を低減するために、情報伝搬を適応的に制御できるGCNを設計できるか？
• RQ4 FSLにおいて、標準的なGCNと比較して、適応的集約が性能向上およびより深いネットワークアーキテクチャの実現を可能にするか？
• RQ5 訓練データが清浄かつ限られた状況下でも、提案されたAdarGCNモデルが最先端のFSL手法を上回る性能を発揮できるか？

主な発見

• 従来のFSL設定下で、AdarGCNはmini-ImageNetで71.48%、CUBで78.04%の精度を達成し、GCN、EGCN、wDAE-GNNを含む最先端の手法を上回る。
• 既存のGCNベースのFSL手法に比べ3–5%、非GCNベースの最先端手法に比べ1–6%の向上を示し、ノイジーおよび外れ値の影響に対して高い耐性を示す。
• 6層のGCNを用いた場合、AdarGCNはmini-ImageNetで72.24%の精度を達成し、適応的集約が過剰スムージングを防ぎながら深層GCNの構築を可能にしていることを示している。
• 可視化により、外れ値のサンプルに対して特定のブランチ（例：ブランチc）に高い重みが割り当てられ、その影響が効果的に制限されていることが確認された。
• AdarGCNの性能向上は、新しいFSFSL設定および従来のFSLの両方で一貫しており、汎用性と有効性が裏付けられた。
• ウェブデータクロール＋GCNベースのLDNという2段階パイプラインが、ソースクラスデータが乏しい状況下でも、効果的な知識移行を可能にした。