[論文レビュー] An Empirical Study and Analysis on Open-Set Semi-Supervised Learning

Huixiang Luo, Hao Cheng+5 more|arXiv (Cornell University)|Jan 19, 2021

Domain Adaptation and Few-Shot Learning参考文献 69被引用数 4

ひとこと要約

本稿では、スタイル変換を用いて分布外（OOD）サンプルを活用することで、オープンセット半教師付き学習における偽ラベル付け（PL）およびデータ拡張に基づく一貫性学習（DACT）を向上させる手法「スタイル・ディストルバランス」を提案する。分布内（ID）データとOODデータの分布ギャップを低減することで、CIFAR-10およびTiny ImageNetで最先端性能を達成し、従来のSOTA手法よりそれぞれ3.35%および0.92%の精度向上を達成した。

ABSTRACT

Pseudo-labeling (PL) and Data Augmentation-based Consistency Training (DACT) are two approaches widely used in Semi-Supervised Learning (SSL) methods. These methods exhibit great power in many machine learning tasks by utilizing unlabeled data for efficient training. But in a more realistic setting (termed as open-set SSL), where unlabeled dataset contains out-of-distribution (OOD) samples, the traditional SSL methods suffer severe performance degradation. Recent approaches mitigate the negative influence of OOD samples by filtering them out from the unlabeled data. However, it is not clear whether directly removing the OOD samples is the best choice. Furthermore, why PL and DACT could perform differently in open-set SSL remains a mystery. In this paper, we thoroughly analyze various SSL methods (PL and DACT) on open-set SSL and discuss pros and cons of these two approaches separately. Based on our analysis, we propose Style Disturbance to improve traditional SSL methods on open-set SSL and experimentally show our approach can achieve state-of-the-art results on various datasets by utilizing OOD samples properly. We believe our study can bring new insights for SSL research.

研究の動機と目的

• 分布外（OOD）サンプルを含む未ラベルデータを有するオープンセット半教師付き学習（オープンセットSSL）における、偽ラベル付け（PL）およびデータ拡張に基づく一貫性学習（DACT）のロバスト性を調査すること。
• PLとDACTがOOD条件下で異なる性能を示す理由を分析し、OODサンプルをフィルタリングすることが最適であるかどうかを検討すること。
• OODサンプルをノイズではなく有益な学習信号として活用する可能性を検討すること。
• OODスタイルの摂動を組み込むことで、PLとDACTの両方を向上させる統一的手法「スタイル・ディストルバランス」を提案すること。
• 適切にOODサンプルを活用することで、従来のオープンセットSSLにおける性能上限を超える性能向上が可能であることを実証すること。

提案手法

• スタイル・ディストルバランスは、AdaINベースのスタイル変換ネットワークを用いて、分布内（ID）サンプルにOODスタイルの特徴を適用し、ラベル付き（ID）データと未ラベル付き（ID+OOD）データの間の分布ギャップを低減する。
• DACTでは、未ラベルデータの弱い拡張版および強い拡張版の両方にスタイル・ディストルバランスを適用し、一貫性とロバスト性を向上させる。
• PLでは、偽ラベル生成時にIDサンプルの特徴表現に直接OODスタイルの摂動を適用する。
• スタイル変換ネットワークは、IDサンプルをコンテンツデータセットとして、OODサンプルをスタイルデータセットとして用い、エンコーダにVGG-19を、デコーダに学習可能なパラメータを用いる。
• DACTには簡素化されたOOD検出モジュールを用いるが、PLではOODサンプルが完全に同定可能であると仮定する。
• 訓練中に補間重みβおよびωを[0, 0.5]からランダムにサンプリングすることで、データの多様性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 なぜDACTは、OODサンプルを含むオープンセットSSL設定においてPLよりもよりロバストなのか？
• RQ2 オープンセットSSLにおけるモデル一般化性能の向上のため、OODサンプルを除外することが最適戦略なのか？
• RQ3 OODサンプルを単に除外するのではなく、建設的に活用できるか、その方法は何か？
• RQ4 DACTのロバスト性と、IDデータとOODデータの間の分布ギャップとの関係は何か？
• RQ5 OODサンプルをスタイルベースのデータ拡張によって活用することで、統一的手法によってPLとDACTの両方を向上させられるか？

主な発見

• DACTはオープンセットSSLにおいて本質的にPLよりもロバストであるが、性能を維持するためには、注意深く多様なデータ拡張戦略を講じる必要がある。
• 提案されたスタイル・ディストルバランス手法は、OODスタイルの特徴摂動を用いることで、IDデータとOODデータの間の分布ギャップを低減し、PLおよびDACTベースのSSLの両方を向上させる。
• 1,000個のラベル付きサンプルを用いたCIFAR-10では、以前のSOTA手法MTCF（Yu et al., 2020）より3.35%の精度向上を達成した。
• Tiny ImageNetでは、別のSOTAベースラインDS3L（Guo et al., 2020）より0.92%の性能向上を達成した。
• 実験により、OODサンプルが適切に統合されれば有益であることが確認され、それらを除外すべきであるという仮定に疑問を呈する。
• アブレーションスタディの結果、スタイル変換モジュールおよびOODデータの活用が性能向上に顕著に寄与しており、本手法の設計の有効性が裏付けられた。