[論文レビュー] Model and Data Agreement for Learning with Noisy Labels

Yuhang Zhang, Weihong Deng+4 more|arXiv (Cornell University)|Dec 2, 2022

Machine Learning and Data Classification被引用数 6

ひとこと要約

本稿では、誤りの蓄積をモデルおよびデータの両視点から軽減するための新しい手法である Model and Data Agreement (MDA) を提案する。誤ったラベルを含むサンプルを検出するために画像の反転を用い、平均点アンサンブルを用いてモデルのロバスト性を向上させることで、CIFAR-10、CIFAR-100、Clothing1M において最先端の性能を達成し、特に高ノイズ率下でも優れた性能を示す。また、既存手法と組み合わせることでさらなる性能向上が可能である。

ABSTRACT

Learning with noisy labels is a vital topic for practical deep learning as models should be robust to noisy open-world datasets in the wild. The state-of-the-art noisy label learning approach JoCoR fails when faced with a large ratio of noisy labels. Moreover, selecting small-loss samples can also cause error accumulation as once the noisy samples are mistakenly selected as small-loss samples, they are more likely to be selected again. In this paper, we try to deal with error accumulation in noisy label learning from both model and data perspectives. We introduce mean point ensemble to utilize a more robust loss function and more information from unselected samples to reduce error accumulation from the model perspective. Furthermore, as the flip images have the same semantic meaning as the original images, we select small-loss samples according to the loss values of flip images instead of the original ones to reduce error accumulation from the data perspective. Extensive experiments on CIFAR-10, CIFAR-100, and large-scale Clothing1M show that our method outperforms state-of-the-art noisy label learning methods with different levels of label noise. Our method can also be seamlessly combined with other noisy label learning methods to further improve their performance and generalize well to other tasks. The code is available in https://github.com/zyh-uaiaaaa/MDA-noisy-label-learning.

研究の動機と目的

• 誤りの蓄積をモデルおよびデータの両視点から学習するノイズラベル問題に対して軽減すること。
• 既存手法（例：JoCoR）が失敗する高ノイズレート下でもロバスト性を向上させること。
• 小さな損失値を持つサンプル選択に依存しないようにすることで、誤ったサンプルが誤って選ばれるのを防ぐこと。
• 既存のノイズラベル学習フレームワークと互換性を持たせ、即座に統合可能な手法を開発すること。
• 画像分類を越えて、顔の感情認識のような対称的データタスクにも一般化できること。

提案手法

• 2つのモデルを強力な損失関数を用いて結合する平均点アンサンブルを導入し、選択されなかったサンプルからの情報を活用する。
• 元の画像ではなく、反転画像における損失値を用いて小さな損失を持つサンプルを特定・選択することで、データレベルの誤り蓄積を低減する。
• 反転画像の意味的不変性を活用する：モデルは元のノイズラベル付きサンプルを記憶するが、反転バージョンは記憶しないため、より良いノイズサンプル検出が可能になる。
• 反転に基づく選択戦略を用いてクリーンなサンプルを検出することで、誤って低損失を達成するノイズサンプルの選択を回避する。
• 元の画像における分類損失と分散損失を平均点アンサンブルと組み合わせ、2つのモデルを協調的かつロバストに学習させる。
• Co-teaching などの既存手法とシームレスに統合可能であり、それらのサンプル選択および損失関数を MDA のコンponents に置き換えることができる。

実験結果

リサーチクエスチョン

• RQ1 データの視点からサンプル選択を再考することで、ノイズラベル学習における誤り蓄積を軽減できるか？
• RQ2 アンサンブル戦略を用いることで、選択されなかったサンプルからの情報を活用し、ラベルノイズに対するロバスト性を向上させられるか？
• RQ3 ノイズラベル環境下で、反転画像の損失値を用いたサンプル選択が、標準的なデータオーグメンテーションを上回るか？
• RQ4 提案手法が画像分類を越えて、顔の感情認識のような他の対称的データタスクにも一般化できるか？
• RQ5 MDA は既存の最先端手法と効果的に組み合わせられ、性能をさらに向上させられるか？

主な発見

• 80%のラベルノイズ下で、CIFAR-10 および CIFAR-100 において、JoCoR が完全に失敗する状況でも、MDA は顕著に優れた性能を示す。
• 高ノイズ率下の Clothing1M においても、MDA は最先端の性能を達成し、大規模データセットへのスケーラビリティを示している。
• 反転ノイズ検出モジュール単体でも、標準的なデータオーグメンテーションを上回る性能向上を示しており、クリーンサンプルの同定に有効であることが証明された。
• 平均点アンサンブルは、選択されなかったサンプルとより安定した損失関数を活用することで、モデルのロバスト性を向上させ、誤り蓄積を低減する。
• Co-teaching と組み合わせた場合、CIFAR-10 および CIFAR-100 において全ノイズレベルで最高の性能を達成し、MDA のプラグアンドプレイ互換性を確認した。
• RAF-DB における顔の感情認識タスクにおいても、MDA は Co-teaching や他の最先端の FER 手法を上回り、さまざまなノイズレベル下でも優れた一般化性能を示した。