[论文解读] Unsupervised Self-training Algorithm Based on Deep Learning for Optical Aerial Images Change Detection

Yuan Zhou, Xiangrui Li|arXiv (Cornell University)|Oct 15, 2020

Remote-Sensing Image Classification参考文献 47被引用 8

一句话总结

该论文提出了一种用于光学航空影像变化检测的无监督自训练算法（USTA），采用教师-学生CNN框架，利用传统方法（如变化向量分析）生成的伪标签进行训练。通过联合使用教师网络和经典技术生成的伪标签，并应用图像滤波器抑制噪声伪标签，USTA在无需人工标注的情况下实现了最先进性能，在真实数据集上优于现有的无监督和有监督方法。

ABSTRACT

Optical aerial images change detection is an important task in earth observation and has been extensively investigated in the past few decades. Generally, the supervised change detection methods with superior performance require a large amount of labeled training data which is obtained by manual annotation with high cost. In this paper, we present a novel unsupervised self-training algorithm (USTA) for optical aerial images change detection. The traditional method such as change vector analysis is used to generate the pseudo labels. We use these pseudo labels to train a well designed convolutional neural network. The network is used as a teacher to classify the original multitemporal images to generate another set of pseudo labels. Then two set of pseudo labels are used to jointly train a student network with the same structure as the teacher. The final change detection result can be obtained by the trained student network. Besides, we design an image filter to control the usage of change information in the pseudo labels in the training process of the network. The whole process of the algorithm is an unsupervised process without manually marked labels. Experimental results on the real datasets demonstrate competitive performance of our proposed method.

研究动机与目标

• 解决高分辨率光学航空影像有监督变化检测中人工标注成本过高的问题。
• 开发一种无监督方法，消除对标注数据的依赖，同时保持高检测精度。
• 通过融合经典方法和训练好的教师网络生成的伪标签，提升变化检测的鲁棒性和准确性。
• 通过一种新颖的图像滤波机制，在训练过程中降低噪声或错误伪标签的影响。
• 验证在学生-教师CNN架构中使用双源伪标签的自训练策略的有效性。

提出的方法

• 该方法使用多时相航空影像上的变化向量分析（CVA）生成初始伪标签。
• 使用这些CVA生成的伪标签，训练一个卷积神经网络（CNN）作为教师模型。
• 训练好的教师网络为相同图像生成第二组优化后的伪标签。
• 将CVA和教师网络生成的两组伪标签联合用于训练一个与教师网络架构相同的学生成本。
• 在训练过程中应用图像滤波器，以抑制错误或噪声伪标签，提升标签质量与模型泛化能力。
• 最终的变化检测结果来自训练好的学生网络的推理，完成一个完全无监督的流程。

实验结果

研究问题

• RQ1 在无监督设置下，使用双源伪标签的自训练框架是否能提升变化检测的准确性？
• RQ2 将经典方法生成的伪标签与深度学习生成的伪标签联合使用，对检测性能有何影响？
• RQ3 图像滤波机制在多大程度上降低了训练过程中错误伪标签的影响？
• RQ4 所提出的结合复合特征提取的教师-学生CNN架构是否优于单分支或双分支的替代方案？
• RQ5 所提出的无监督方法是否能在不依赖任何人工标注的情况下，实现与有监督方法相当的最先进性能？

主要发现

• 在SZADA/1数据集上，使用图像滤波器的所提方法F1值达到38.06%，而未使用滤波器时仅为27.09%，表明滤波有效降低了误报率。
• 在TISZADOB/3数据集上，使用滤波器的F1值达到84.74%，显著优于未使用滤波器时的71.62%。
• 复合特征提取模块（共享低层特征、独立高层分支）在SZADA/1上达到最高F1值38.06%，在TISZADOB/3上达到84.74%，优于单分支（F1值33.67%）和双分支（F1值33.67%）配置。
• 使用滤波器的学生网络在TISZADOB/3上的F1值达到88.45%，略高于未使用滤波器时的87.83%，表明在各项指标上均实现稳定提升。
• 该方法在两个真实世界数据集上均实现了最先进性能，F1分数在对比中最高，证实其优于现有无监督和有监督基线方法。
• 消融实验证实，联合使用CVA和教师网络生成的伪标签优于仅使用任一来源，能减少误差传播并提升标签一致性。