[論文レビュー] MutexMatch: Semi-Supervised Learning with Mutex-Based Consistency Regularization

Yue Duan, Zhen Zhao+5 more|arXiv (Cornell University)|Mar 27, 2022

Domain Adaptation and Few-Shot Learning被引用数 5

ひとこと要約

MutexMatch は、低信頼度の未ラベル付きサンプルを活用するための新しい半教師付き学習フレームワークを提案する。この手法では、'何であるかではないか'（つまり、真の負例）を予測する真の負例分類器（TNC）を訓練し、補完的疑似ラベルに対する一貫性正則化を適用することで、疑似ラベルの誤りを低減し、表現学習を向上させる。CIFAR-10 で20個のラベル付きサンプルのみを用いても92.23%の精度を達成する。

ABSTRACT

The core issue in semi-supervised learning (SSL) lies in how to effectively leverage unlabeled data, whereas most existing methods tend to put a great emphasis on the utilization of high-confidence samples yet seldom fully explore the usage of low-confidence samples. In this paper, we aim to utilize low-confidence samples in a novel way with our proposed mutex-based consistency regularization, namely MutexMatch. Specifically, the high-confidence samples are required to exactly predict "what it is" by conventional True-Positive Classifier, while the low-confidence samples are employed to achieve a simpler goal -- to predict with ease "what it is not" by True-Negative Classifier. In this sense, we not only mitigate the pseudo-labeling errors but also make full use of the low-confidence unlabeled data by consistency of dissimilarity degree. MutexMatch achieves superior performance on multiple benchmark datasets, i.e., CIFAR-10, CIFAR-100, SVHN, STL-10, mini-ImageNet and Tiny-ImageNet. More importantly, our method further shows superiority when the amount of labeled data is scarce, e.g., 92.23% accuracy with only 20 labeled data on CIFAR-10. Our code and model weights have been released at https://github.com/NJUyued/MutexMatch4SSL.

研究の動機と目的

• 半教師付き学習において、誤りリスクが高いためしばしば捨てられる低信頼度の未ラベル付きサンプルの活用不足を是正すること。
• 高信頼度の疑似ラベルにのみ焦点を当てた従来の手法の限界を克服し、未ラベルデータ全体を無駄にしないためのもの。
• 他のクラスとの類似性のなさ（類似性の欠如）から学習することで、低信頼度のサンプルを情報量豊富なものとみなす新しいパラダイムの構築。
• 同じサンプルの異なる増幅ビュー間での類似性予測の一貫性を強制することで、モデルの汎化性能と頑健性を向上させること。
• 特に低ショット設定下で優れた性能を示すために、低信頼度のサンプルを含むすべての未ラベルデータを完全に活用すること。

提案手法

• 『何であるか』を予測する真の正例分類器（TPC）と、『何であるかではないか』を予測する真の負例分類器（TNC）の2つの分類器を導入する。
• 弱い増幅ビューを用いてTPCのためのハード疑似ラベルを生成し、TPC出力の否定値を正規化することでTNCのためのソフト補完的疑似ラベルを生成する。
• 弱い増幅ビューと強い増幅ビューの両方におけるTNCの予測の交差エントロピーを最小化することで、TNCに一貫性正則化を適用する。
• 一貫性正則化の適用前に、ハード補完的ラベルを用いてTNCを別個に訓練することで、頑健性を向上させる。
• 教師あり損失、TPCの疑似ラベル損失、TNCの一貫性損失を統合した訓練目的関数を構築する。
• 強いデータ増幅にRandAugmentを用い、信頼度閾値τを導入して高信頼度と低信頼度のサンプルに分ける。

実験結果

リサーチクエスチョン

• RQ1 低信頼度の未ラベル付きサンプルは、顕著な誤りを引き起こさずに半教師付き学習で効果的に活用可能か？
• RQ2 類似性の度合い（すなわち、'何であるかではないか'）に一貫性を強制することで、低信頼度のサンプルにおける表現学習が向上するか？
• RQ3 別個に訓練された真の負例分類器（TNC）は、誤って負例と予測される確率（偽陰性確率）を低減させることで、TPCの予測の信頼性を向上させられるか？
• RQ4 低ラベル環境下で、標準的一貫性正則化と比較して、マューテックスベースの一貫性正則化は、精度と頑健性の面で優れているか？
• RQ5 TNCの一貫性正則化においてソフト補完的疑似ラベルを使用することで、ハードラベルよりも優れた一般化性能が得られるか？

主な発見

• CIFAR-10 で40個のラベル付きサンプルを用いた場合、MutexMatch は93.22%の精度を達成し、アブレーションバリアントやベースラインのFixMatchを上回った。
• わずか20個のラベル付きサンプルを用いても、MutexMatch はCIFAR-10 で92.23%の精度を達成し、低ショット半教師付き学習において優れた性能を示した。
• アブレーションスタディの結果、TNCの事前学習にハードラベル、一貫性正則化にソフトラベルを用いる設定（Rev-Norm設定）が最良の性能を示した。
• TNCに一貫性正則化を適用することで、TPCの予測における偽陰性確率が低下し、正しく分類されるクラスの真の正例確率が上昇した。
• すべてのクラスにおいて、正解クラス成分の平均信頼度が上昇したことから、モデルの頑健性と表現品質が向上したことが示された。
• 低信頼度のサンプルを、類似性の一貫性を活用することで効果的に活用し、高信頼度の疑似ラベルに依存するのを減らした。