[論文レビュー] Distribution-Aware Semantics-Oriented Pseudo-label for Imbalanced Semi-Supervised Learning.

Young‐Taek Oh, Dong-Jin Kim+1 more|arXiv (Cornell University)|Jun 10, 2021

Domain Adaptation and Few-Shot Learning参考文献 60被引用数 8

ひとこと要約

本稿では、クラス不均衡下での半教師あり学習に対して、分布に配慮した意味的指向型（DASO）疑似ラベル化を提案する。この手法は、現在の分布バイアスに基づき、類似度ベースの分類器から得られる意味的疑似ラベルと、従来の線形分類器からの疑似ラベルを動的に融合する。本手法により、メジャリティクラスにおける誤検出（偽陽性）が低減され、CIFAR10/100-LT、STL10-LT、およびSemi-Avesベンチマークにおいて、クラス不均衡および分布不一致下での疑似ラベルバイアスを抑制することで、性能が向上する。

ABSTRACT

The capability of the traditional semi-supervised learning (SSL) methods is far from real-world application since they do not consider (1) class imbalance and (2) class distribution mismatch between labeled and unlabeled data. This paper addresses such a relatively under-explored problem, imbalanced semi-supervised learning, where heavily biased pseudo-labels can harm the model performance. Interestingly, we find that the semantic pseudo-labels from a similarity-based classifier in feature space and the traditional pseudo-labels from the linear classifier show the complementary property. To this end, we propose a general pseudo-labeling framework to address the bias motivated by this observation. The key idea is to class-adaptively blend the semantic pseudo-label to the linear one, depending on the current pseudo-label distribution. Thereby, the increased semantic pseudo-label component suppresses the false positives in the majority classes and vice versa. We term the novel pseudo-labeling framework for imbalanced SSL as Distribution-Aware Semantics-Oriented (DASO) Pseudo-label. Extensive evaluation on CIFAR10/100-LT and STL10-LT shows that DASO consistently outperforms both recently proposed re-balancing methods for label and pseudo-label. Moreover, we demonstrate that typical SSL algorithms can effectively benefit from unlabeled data with DASO, especially when (1) class imbalance and (2) class distribution mismatch exist and even on recent real-world Semi-Aves benchmark.

研究の動機と目的

• 実世界のシナリオにおいて、ラベル付きデータとラベルなしデータの間でクラス不均衡および分布不一致がモデル性能を低下させるという、従来の半教師あり学習の限界を解消すること。
• クラス不均衡下でのバイアス処理において、意味的疑似ラベルと線形疑似ラベルが相補的な性質を示すことを同定すること。
• 現在の分布に応じて、これらの2種類の疑似ラベルを動的に融合する汎用的なフレームワークを提案し、メジャリティクラスにおける誤検出を低減すること。
• 長尾データ分布および分布シフト下での半教師あり学習におけるモデルのロバスト性と精度を向上させること。
• CIFAR10/100-LT、STL10-LT、および最近のSemi-Avesデータセットを含む複数のベンチマークで、DASOの有効性を実証すること。

提案手法

• 特徴空間における類似度ベースの分類器を導入し、意味的疑似ラベルを生成する。これは、分布シフトおよびクラス不均衡に対してより頑健である。
• 線形分類器を用いて標準的な疑似ラベルを生成する。これは高密度領域では信頼性が高くなるが、長尾設定では誤りを起こしやすい。
• 疑似ラベルの現在の分布に応じて、意味的および線形疑似ラベルの寄与度を調整するクラス適応型融合メカニズムを設計する。
• 動的重み付け戦略を適用し、メジャリティクラスで誤検出が生じやすい場合には意味的疑似ラベルの寄与度を増やし、逆にそれ以外の場合は線形疑似ラベルを優位にする。
• 統合された疑似ラベルを用いてモデルをエンドツーエンドで学習させ、クラス不均衡下での一般化性能を向上させる。
• アーキテクチャの変更なしに、標準的なSSLアルゴリズムにDASOを統合可能であり、広範な適用性を有する。

実験結果

リサーチクエスチョン

• RQ1 意味的疑似ラベルと線形疑似ラベルの組み合わせは、クラス不均衡下の半教師あり学習における性能にどのように影響を与えるか？
• RQ2 分布に配慮した融合戦略は、クラス不均衡および分布不一致によって生じる疑似ラベルバイアスを低減できるか？
• RQ3 DASOは、CIFAR10/100-LT や STL10-LT といった長尾ベンチマークにおいて、既存の再バランス手法と比較してどの程度性能を向上させるか？
• RQ4 DASOは、ラベルおよび疑似ラベルの両方で分布シフトが生じる実世界のデータセット（例：Semi-Aves）にも一般化可能か？
• RQ5 現在の分布に基づく疑似ラベル成分の動的適応は、モデルのロバスト性をどのように向上させるか？

主な発見

• DASOは、CIFAR10/100-LT および STL10-LT ベンチマークにおいて、最近の再バランス手法（ラベルおよび疑似ラベルの両方）を常に上回る性能を発揮する。
• 不均衡が顕著な状況では意味的疑似ラベルの影響を高めることで、メジャリティクラスにおける誤検出を顕著に低減する。
• ラベル付きデータとラベルなしデータの間で深刻なクラス分布不一致が生じる状況下でも、DASOはモデルの精度を向上させる。
• 複数のSSLアルゴリズムにおいて性能を向上させ、広範な互換性と有効性を示している。
• 実世界のSemi-Avesベンチマークでは、長尾分布および分布シフト下でも効果的に未ラベルデータを活用でき、最先端の性能を達成している。
• アブレーションスタディにより、動的融合メカニズムが不可欠であることが確認され、固定された融合戦略では性能が低下することが判明した。