[论文解读] Deep Domain Adaptive Object Detection: a Survey

Wanyi Li, Fuyu Li+3 more|arXiv (Cornell University)|Feb 17, 2020

Domain Adaptation and Few-Shot Learning参考文献 42被引用 13

一句话总结

本综述回顾了深度域自适应目标检测（DDAOD）方法，这些方法通过将源域上训练的模型适应到目标域以应对目标检测中的域偏移问题，尤其在标注数据有限或无标注数据的情况下。该综述将现有方法分类为五类——特征空间中的域自适应、对抗训练、自训练、知识蒸馏和元学习，并对代表性方法进行了全面分析，为 DDAOD 领域的未来研究方向提供了洞见。

ABSTRACT

Deep learning (DL) based object detection has achieved great progress. These methods typically assume that large amount of labeled training data is available, and training and test data are drawn from an identical distribution. However, the two assumptions are not always hold in practice. Deep domain adaptive object detection (DDAOD) has emerged as a new learning paradigm to address the above mentioned challenges. This paper aims to review the state-of-the-art progress on deep domain adaptive object detection approaches. Firstly, we introduce briefly the basic concepts of deep domain adaptation. Secondly, the deep domain adaptive detectors are classified into five categories and detailed descriptions of representative methods in each category are provided. Finally, insights for future research trend are presented.

研究动机与目标

• 解决深度目标检测中的域偏移问题，即训练数据与测试数据分布不一致的问题。
• 回顾在真实世界数据分布偏移背景下，深度域自适应目标检测（DDAOD）的最先进方法。
• 基于其自适应机制，将 DDAOD 方法分类并分析为五个不同类别。
• 为 DDAOD 领域的开放性挑战和未来研究趋势提供洞见。

提出的方法

• 将 DDAOD 方法分类为五类：特征空间中的域自适应、对抗训练、自训练、知识蒸馏和元学习。
• 分析各类别中的代表性方法，包括其核心架构和自适应策略。
• 评估利用域不变表示对齐源域与目标域特征分布的技术。
• 调查利用一致性正则化或伪标签法来利用无标签目标数据的方法。
• 考察使用判别器区分源域与目标域特征的对抗性框架。
• 回顾基于知识蒸馏的方法，即从教师模型向在目标域上训练的学生模型迁移知识。

实验结果

研究问题

• RQ1 不同 DDAOD 方法如何缓解目标检测中的域偏移问题？
• RQ2 最先进 DDAOD 方法中采用的关键架构与训练策略是什么？
• RQ3 自监督方法与对抗性方法在跨域适应目标检测方面如何比较？
• RQ4 当前 DDAOD 方法在处理大域偏移或长尾分布方面存在哪些局限性？
• RQ5 哪些未来研究方向最有可能推动 DDAOD 的发展？

主要发现

• 综述识别出五类主要的 DDAOD 方法，各类方法在应对域偏移方面具有独特优势。
• 对抗训练与自训练方法在对齐跨域特征分布方面表现出色。
• 基于知识蒸馏的方法能以极少的标注数据，有效将检测知识从源域迁移到目标域。
• 元学习方法在少样本域自适应场景中展现出潜力。
• 综述强调了在实际部署中需要更鲁棒、泛化性更强且可扩展的 DDAOD 框架。
• 未来研究应聚焦于提升在大域偏移下的泛化能力、处理长尾分布问题，以及集成不确定性估计。