[论文解读] A Novel Uncertainty-aware Collaborative Learning Method for Remote Sensing Image Classification Under Multi-Label Noise.

Ahmet Aksoy, Mahdyar Ravanbakhsh+2 more|arXiv (Cornell University)|May 12, 2021

Remote-Sensing Image Classification参考文献 16被引用 3

一句话总结

本文提出了一种名为共识协作多标签学习（CCML）的新方法，这是一种与架构无关的训练深度神经网络的方法，适用于在输入相关多标签噪声条件下进行遥感图像学习。通过利用双网络协作、组套索进行不确定性估计、差异性学习以增强特征多样性、标签翻转进行校正，以及排序交换机制，CCML在IR-BigEarthNet数据集上即使在极端噪声率下也表现出鲁棒的性能。

ABSTRACT

In remote sensing (RS), collecting a large number of reliable training images annotated by multiple land-cover class labels for multi-label classification (MLC) is time-consuming and costly. To address this problem, the publicly available thematic products are often used for annotating RS images with zero-labeling cost. However, in this case the training set can include noisy multi-labels that distort the learning process, resulting in inaccurate predictions. This paper proposes an architect-independent Consensual Collaborative Multi-Label Learning (CCML) method to train deep classifiers under input-dependent (heteroscedastic) multi-label noise in the MLC problems. The proposed CCML identifies, ranks, and corrects noisy multi-label images through four main modules: 1) group lasso module; 2) discrepancy module; 3) flipping module; and 4) swap module. The group lasso module detects the potentially noisy labels by estimating the label uncertainty based on the aggregation of two collaborative networks. The discrepancy module ensures that the two networks learn diverse features, while obtaining the same predictions. The flipping module corrects the identified noisy labels, and the swap module exchanges the ranking information between the two networks. The experiments conducted on the multi-label RS image archive IR-BigEarthNet confirm the robustness of the proposed CCML under extreme multi-label noise rates.

研究动机与目标

• 为解决遥感图像分类中多标签标注成本高、耗时长的问题。
• 开发一种在高输入相关（异方差）多标签噪声率下仍保持鲁棒性的方法。
• 实现在无需架构修改的前提下检测、排序和校正噪声标签。
• 在保持预测一致性与特征多样性的前提下，实现两网络间的协作学习。
• 在真实世界遥感数据集（含噪声主题产品标注）上验证该方法的有效性。

提出的方法

• 组套索模块通过聚合两个协作网络的预测结果来估计标签不确定性，识别潜在的噪声标签。
• 差异性模块在确保预测一致性的前提下，强制两网络之间的特征多样性，从而提升模型鲁棒性。
• 翻转模块通过基于共识的更可能的标签组合，替换已识别的噪声标签以实现校正。
• 交换模块在两网络之间交换排序信息，以提高标签校正的准确性和模型校准能力。
• 该方法与网络架构无关，可无缝集成到任何用于遥感图像分类的深度学习主干网络中。
• 框架通过联合损失函数进行端到端训练，该损失函数结合了分类损失、一致性损失和不确定性正则化。

实验结果

研究问题

• RQ1 如何使深度学习模型在遥感图像分类中对输入相关的多标签噪声具有鲁棒性？
• RQ2 协作学习框架是否能有效检测、排序并校正噪声多标签标注，且不受架构限制？
• RQ3 通过组套索进行不确定性估计，在极端噪声率下能否显著提升标签校正效果？
• RQ4 在噪声监督下，强制两网络间特征多样性对模型泛化能力有何影响？
• RQ5 所提出方法在真实世界遥感数据集（含噪声主题标签）上是否优于现有噪声鲁棒学习方法？

主要发现

• 在极端多标签噪声率下，CCML在IR-BigEarthNet数据集上达到最先进性能，展现出卓越的鲁棒性。
• 该方法能有效检测并校正噪声标签，即使噪声率超过70%，显著提升了分类准确率。
• 组套索模块通过利用两个协作网络之间的共识，成功识别出不确定标签。
• 差异性模块通过促进多样化特征学习并保持预测一致性，增强了模型泛化能力。
• 交换与翻转模块协同提升了标签校正质量，使模型在噪声训练数据上产生更可靠的预测。
• 实证结果证实，CCML在严重标签噪声条件下仍能保持高绩效，且在多个评估指标上表现稳定。