[論文レビュー] A Novel Uncertainty-aware Collaborative Learning Method for Remote Sensing Image Classification Under Multi-Label Noise.

Ahmet Aksoy, Mahdyar Ravanbakhsh+2 more|arXiv (Cornell University)|May 12, 2021

Remote-Sensing Image Classification参考文献 16被引用数 3

ひとこと要約

本稿では、入力依存の多値ラベルノイズ下でリモートセンシング画像の深層ニューラルネットワークを学習するための、アーキテクチャに依存しない新規手法であるConsensual Collaborative Multi-Label Learning (CCML) を提案する。グループラッソによる不確実性推定、乖離学習による特徴の多様性、ラベルの反転による補正、ランク交換を統合することで、IR-BigEarthNetデータセットにおいて極端なノイズ率下でも高いロバスト性を達成する。

ABSTRACT

In remote sensing (RS), collecting a large number of reliable training images annotated by multiple land-cover class labels for multi-label classification (MLC) is time-consuming and costly. To address this problem, the publicly available thematic products are often used for annotating RS images with zero-labeling cost. However, in this case the training set can include noisy multi-labels that distort the learning process, resulting in inaccurate predictions. This paper proposes an architect-independent Consensual Collaborative Multi-Label Learning (CCML) method to train deep classifiers under input-dependent (heteroscedastic) multi-label noise in the MLC problems. The proposed CCML identifies, ranks, and corrects noisy multi-label images through four main modules: 1) group lasso module; 2) discrepancy module; 3) flipping module; and 4) swap module. The group lasso module detects the potentially noisy labels by estimating the label uncertainty based on the aggregation of two collaborative networks. The discrepancy module ensures that the two networks learn diverse features, while obtaining the same predictions. The flipping module corrects the identified noisy labels, and the swap module exchanges the ranking information between the two networks. The experiments conducted on the multi-label RS image archive IR-BigEarthNet confirm the robustness of the proposed CCML under extreme multi-label noise rates.

研究の動機と目的

• リモートセンシング画像分類における多値ラベルのアノテーションが高コストかつ時間がかかるという課題に対処すること。
• 入力依存（非定常）の多値ラベルノイズが高率に存在する状況下でもロバストな手法を開発すること。
• アーキテクチャの変更を要せず、ノイズの検出、ランク付け、補正を可能にすること。
• 予測の一貫性と特徴の多様性を維持しながら、2つのネットワーク間の共同学習を保証すること。
• 現実のリモートセンシングデータセット（ノイズを含むテーマ製品のアノテーション）において、手法の有効性を検証すること。

提案手法

• グループラッソモジュールは、2つの協調的ネットワークからの予測を集約することでラベルの不確実性を推定し、ノイズの可能性があるラベルを特定する。
• 乖離モジュールは、予測の一貫性を保ちながら2つのネットワーク間の特徴の多様性を強制し、モデルのロバスト性を向上させる。
• 反転モジュールは、コンSENSUSに基づいてより確率の高いラベル組み合わせに、特定されたノイズラベルを置き換えることで補正を行う。
• スワップモジュールは、2つのネットワーク間でランク情報を交換することで、ラベル補正の精度とモデルのキャリブレーションを向上させる。
• この手法はアーキテクチャに依存せず、リモートセンシング画像分類に適した任意の深層学習バックボーンと統合可能である。
• フレームワークは、分類損失、一貫性損失、不確実性正則化を組み合わせた統合損失関数を用いてエンドツーエンドで学習される。

実験結果

リサーチクエスチョン

• RQ1 リモートセンシング画像分類において、入力依存の多値ラベルノイズに対してどのように深層学習モデルをロバスト化できるか。
• RQ2 アーキテクチャ的制約なしに、共同学習フレームワークが効果的にノイズラベルを検出し、ランク付けし、補正できるか。
• RQ3 グループラッソによる不確実性推定は、極端なノイズ率下でもラベル補正の質をどの程度向上できるか。
• RQ4 2つのネットワーク間で特徴の多様性を強制することで、ノイズの多い教師信号下でのモデル一般化性能にどのような影響を与えるか。
• RQ5 提案手法は、ノイズを含む現実のリモートセンシングデータセット（テーマラベルがノイズを含む）において、既存のノイズ耐性学習手法を上回る性能を示せるか。

主な発見

• CCMLは、極端な多値ラベルノイズ率下でもIR-BigEarthNetで最先端の性能を達成し、優れたロバスト性を示した。
• ノイズ率が70％を超える状況でさえも、効果的にノイズラベルを検出し補正でき、分類精度を顕著に向上させた。
• グループラッソモジュールは、2つの協調的ネットワーク間のコンセンサスを活用することで、不確実なラベルを的確に特定した。
• 乖離モジュールは、予測の一貫性を維持しながら多様な特徴学習を促進することで、モデルの一般化性能を向上させた。
• スワップモジュールと反転モジュールは共同でラベル補正の質を向上させ、ノイズの多い学習データにおいてより信頼性の高い予測を実現した。
• 実験結果から、CCMLは極めて厳しいラベルノイズ条件下でも、複数の評価指標において高い性能を維持することが確認された。