[論文レビュー] Unsupervised Semantic Aggregation and Deformable Template Matching for Semi-Supervised Learning

Tao Han, Junyu Gao+2 more|arXiv (Cornell University)|Jan 1, 2020

Domain Adaptation and Few-Shot Learning被引用数 5

ひとこと要約

本稿では、未教師ありの意味的集約をトリプレット相互情報量損失を用いて行い、未ラベルデータのための疑似ラベルを生成する半教師あり学習フレームワークUSADTMを提案する。さらに、動的特徴プールを用いた可変テンプレートマッチングにより、ラベル付きデータを用いてこれらのラベルを精緻化する。本手法は、ラベル付きデータがたった40例の状況でもCIFAR-10で90.46%の最先端性能を達成する。

ABSTRACT

Unlabeled data learning has attracted considerable attention recently. However, it is still elusive to extract the expected high-level semantic feature with mere unsupervised learning. In the meantime, semi-supervised learning (SSL) demonstrates a promising future in leveraging few samples. In this paper, we combine both to propose an Unsupervised Semantic Aggregation and Deformable Template Matching (USADTM) framework for SSL, which strives to improve the classification performance with few labeled data and then reduce the cost in data annotating. Specifically, unsupervised semantic aggregation based on Triplet Mutual Information (T-MI) loss is explored to generate semantic labels for unlabeled data. Then the semantic labels are aligned to the actual class by the supervision of labeled data. Furthermore, a feature pool that stores the labeled samples is dynamically updated to assign proxy labels for unlabeled data, which are used as targets for cross-entropy minimization. Extensive experiments and analysis across four standard semi-supervised learning benchmarks validate that USADTM achieves top performance (e.g., 90.46$\%$ accuracy on CIFAR-10 with 40 labels and 95.20$\%$ accuracy with 250 labels). The code is released at this https URL.

研究の動機と目的

• ラベル付きデータを最小限に抑えることでアノテーションコストを低減する半教師あり学習の性能向上を目的とする。
• 未ラベルデータから高レベルの意味的特徴を未教師あり手法を用いて抽出する課題に対処すること。
• 限定的な監視情報を利用して、未ラベルデータからの疑似ラベル予測を真のクラスラベルと一致させること。
• 効果的なプロキシラベル割り当てを実現するため、ラベル付きサンプルの特徴プールを動的に維持すること。

提案手法

• 未ラベルデータからの意味的な表現を学習するために、トリプレット相互情報量（T-MI）損失を用いた未教師ありの意味的集約が実行される。
• 集約された意味的特徴に基づいて、未ラベルサンプルの疑似ラベルが生成される。
• 動的特徴プールは、ラベル付きサンプルの埋め込みを格納し、反復的に更新されて、参照テンプレートとして機能する。
• 可変テンプレートマッチングにより、未ラベルデータの疑似ラベルが特徴プール内の最も類似したプロトタイプと一致する。
• 一致させたプロキシラベルをターゲットとして交差エントロピー最小化が適用され、モデルの予測が精緻化される。
• 未教師あり表現学習と教師あり精緻化の両方を統合することで、分類精度が向上する。

実験結果

リサーチクエスチョン

• RQ1 T-MI損失を用いた未教師あり意味的集約は、半教師あり学習における未ラベルデータの高品質な疑似ラベルを効果的に生成できるか？
• RQ2 可変テンプレートマッチングを用いた動的特徴プールは、ラベルの一致とモデルの一般化性能をどのように向上させるか？
• RQ3 提案手法は、高精度を維持しつつ、必要なラベル付きサンプル数をどの程度まで削減できるか？
• RQ4 未教師ありと教師ありのコンponentの統合は、既存のSSLアプローチと比較してどのように優れているか？

主な発見

• USADTMは、ラベル付きデータがたった40例の状況でもCIFAR-10で90.46%のテスト精度を達成し、既存手法を上回る。
• 250ラベル付きサンプルを用いた場合、CIFAR-10で95.20%の精度を達成し、低ショット設定下でも優れた性能を示す。
• トリプレット相互情報量損失の使用により、未ラベルデータからのより強固な意味的表現学習が可能になる。
• 可変テンプレートマッチングを用いた動的特徴プールは、疑似ラベルの品質向上とモデル収束の改善をもたらす。
• 4つの標準ベンチマークにおいて、アノテーションコストを顕著に削減しながら、最先端の性能を維持する。
• アブレーションスタディにより、未教師あり集約と精緻化モジュールの両方が全体のフレームワークにおいて有効であることが確認された。