[論文レビュー] Attention-Aware Noisy Label Learning for Image Classification

Zhenzhen Wang, Chunyan Xu+2 more|arXiv (Cornell University)|Sep 30, 2020

Machine Learning and Data Classification参考文献 24被引用数 4

ひとこと要約

本稿では、画像分類のためのノイズに強い学習フレームワークA²NLを提案する。このフレームワークは、複数のノイズ固有ユニットを備えたノイズ・アテンションモデルを用い、クラスや画像ごとに多様なラベルノイズ分布を捉える。さらに、前回の反復から得た知識を抽出する再帰的学習戦略を採用し、合成データおよび実世界のノイズデータの両方で顕著な耐性向上を達成。清澄データを必要とせず、強力なベースライン比で最大4%の誤差低減を実現した。

ABSTRACT

Deep convolutional neural networks (CNNs) learned on large-scale labeled samples have achieved remarkable progress in computer vision, such as image/video classification. The cheapest way to obtain a large body of labeled visual data is to crawl from websites with user-supplied labels, such as Flickr. However, these samples often tend to contain incorrect labels (i.e. noisy labels), which will significantly degrade the network performance. In this paper, the attention-aware noisy label learning approach ($A^2NL$) is proposed to improve the discriminative capability of the network trained on datasets with potential label noise. Specifically, a Noise-Attention model, which contains multiple noise-specific units, is designed to better capture noisy information. Each unit is expected to learn a specific noisy distribution for a subset of images so that different disturbances are more precisely modeled. Furthermore, a recursive learning process is introduced to strengthen the learning ability of the attention network by taking advantage of the learned high-level knowledge. To fully evaluate the proposed method, we conduct experiments from two aspects: manually flipped label noise on large-scale image classification datasets, including CIFAR-10, SVHN; and real-world label noise on an online crawled clothing dataset with multiple attributes. The superior results over state-of-the-art methods validate the effectiveness of our proposed approach.

研究の動機と目的

• Webから収集した画像データセットに含まれるノイズラベルが深層学習の性能を低下させることを是正すること。
• クラスごとや個々の画像ごとに異なる異種のラベルノイズ分布をモデル化すること。特に、各クラスごとのノイズが一様であると仮定するのではなく、多様なノイズパターンを捉えること。
• モデルパラメータを増加させることなく、ノイズラベルに強いネットワークの学習能力を向上させること。
• 直前の反復で得たソフト予測を活用する再帰的トレーニング戦略を構築し、一般化性能を向上させること。
• 本手法を合成ラベルノイズと、オンラインソースからの実世界のノイズデータの両方で検証すること。

提案手法

• ノイズ・アテンション（NA）モデルは、複数のノイズ固有ユニットから構成され、それぞれが画像のサブセットに対して異なるノイズラベル分布を学習する。
• 各ノイズ固有ユニットは、例えば「イヌをネコと誤分類する」や「馬を誤分類する」などの特定のタイプのラベル誤認識をモデル化する。
• 再帰的学習戦略では、直前のアテンションネットワークの予測結果（ソフトスコア）と真のラベルを組み合わせて、現在の反復を監視する。
• 再帰的プロセスにより、直前の反復から得た高レベルの知識を活用し、パrameterを追加せずに特徴表現を段階的に改善する。
• フレームワークはプラグアンドプレイであり、任意の標準的なCNNアーキテクチャと互換性があり、合成データおよび実世界のノイズデータの両方へ適用可能である。
• 本手法はエンド・トゥ・エンドで訓練され、交差エントロピー損失を用い、真のラベルと直前の反復からのソフト出力を統合した監視信号を用いる。

実験結果

リサーチクエスチョン

• RQ1 クラスごとに複数の明確に区別されたノイズラベル分布をモデル化することで、画像分類におけるラベルノイズへの耐性が向上するか？
• RQ2 直前の反復からのソフト予測を蒸留する再帰的学習戦略が、ノイズデータにおけるモデルの一般化性能に与える影響はいかほどか？
• RQ3 提案されたアテンションに配慮したフレームワークは、合成データおよび実世界のノイズラベルベンチマークの両方で、既存手法を上回る性能を示すか？
• RQ4 ノイズ固有ユニットは、類似クラスにおける異なる誤分類パターン（例：イヌとネコ）のようなクラス内変動をどれほど正確に捉えることができるか？
• RQ5 追加の清澄データを事前学習や微調整に用いずに、本手法が強力な性能を達成できるか？

主な発見

• 提案されたA²NLフレームワークは、複数属性を持つ実世界の衣類データセットで、M=6のノイズ固有ユニットを用いてベースモデル比で4%の誤差低減を達成した。
• 再帰的学習戦略により、1回の反復でテスト誤差が1%以上改善され、5回の反復まで継続的な向上が見られ、以降は改善が微増にとどまった。
• 再帰的ファインチューニング前の段階で、Bottom-upモデル[20]より2%の誤差低減を達成。再帰的学習後には4%の誤差低減を達成したが、これは清澄データを一切使用しない状況であった。
• 清澄データにアクセスできない状況下でも、A²NLモデルはDistillation[15]と同等またはそれ以上の性能を示した。Distillationは2,000枚の手動で清澄化されたテスト画像を事前学習に必要としていた。
• アブレーションスタディにより、ノイズ固有ユニットの数を増やすことで性能が向上し、M=6が衣類データセットにおいて最適であることが確認された。
• 本手法は、合成ラベルノイズ（CIFAR-10、SVHN）および実世界のノイズデータの両方で良好に一般化され、多様なノイズパターンに対して高い耐性を示した。