[论文解读] Unsupervised Domain Adaption of Object Detectors: A Survey

Poojan Oza, Vishwanath A. Sindagi+2 more|arXiv (Cornell University)|May 27, 2021

Domain Adaptation and Few-Shot Learning参考文献 179被引用 11

一句话总结

本综述全面概述了用于目标检测的无监督域自适应（UDA）技术，分析了将源域中训练的、具有丰富标注的模型迁移到目标域中（目标域标注有限或无标注）的各类方法。该综述对方法进行了分类，识别出关键挑战，如特征分布偏移和边界框错位，并指出了检测专用域自适应的有前景未来研究方向。

ABSTRACT

Recent advances in deep learning have led to the development of accurate and efficient models for various computer vision applications such as classification, segmentation, and detection. However, learning highly accurate models relies on the availability of large-scale annotated datasets. Due to this, model performance drops drastically when evaluated on label-scarce datasets having visually distinct images, termed as domain adaptation problem. There is a plethora of works to adapt classification and segmentation models to label-scarce target datasets through unsupervised domain adaptation. Considering that detection is a fundamental task in computer vision, many recent works have focused on developing novel domain adaptive detection techniques. Here, we describe in detail the domain adaptation problem for detection and present an extensive survey of the various methods. Furthermore, we highlight strategies proposed and the associated shortcomings. Subsequently, we identify multiple aspects of the problem that are most promising for future research. We believe that this survey shall be valuable to the pattern recognition experts working in the fields of computer vision, biometrics, medical imaging, and autonomous navigation by introducing them to the problem, and familiarizing them with the current status of the progress while providing promising directions for future research.

研究动机与目标

• 系统性回顾适用于计算机视觉中目标检测的现有无监督域自适应方法。
• 识别在视觉差异显著且标注有限的域之间迁移目标检测器时的常见策略与局限性。
• 突出检测领域中尚未充分探索的域自适应方面，如实例级对齐与特征优化。
• 对解决检测任务中域偏移的各类技术（包括特征级、建议框级与分类级自适应）进行结构化分析。
• 通过识别无监督域自适应在目标检测中尚有潜力但未充分探索的研究方向，为未来研究提供指导。

提出的方法

• 本文针对目标检测的无监督域自适应方法进行了系统性综述，按自适应层级（特征级、建议框级与检测头级）对技术进行分类。
• 分析了对抗训练、分布对齐与自训练等域对齐策略，以减少源域与目标域之间的域偏移。
• 综述评估了利用未标注目标数据的伪标签与一致性正则化来优化区域建议与检测头预测的方法。
• 比较了使用域不变特征、域特定归一化与知识蒸馏等技术以提升模型在目标域泛化能力的方法。
• 分析涵盖了应对目标检测特有挑战的技术，如边界框回归与类别无关的建议框生成，这些在分类或分割的UDA中不那么突出。
• 综述评估了方法在特征空间与检测空间中处理域偏移的能力，包括建议框与真实框之间的错位问题。

实验结果

研究问题

• RQ1 在标注有限或无标注的域之间迁移目标检测器时，主要挑战是什么？
• RQ2 现有用于检测的无监督域自适应技术与用于分类或分割的技术有何不同？
• RQ3 在源域与目标域之间对齐特征分布、建议框与检测头的最有效策略是什么？
• RQ4 当前UDA方法在目标检测中的关键局限性与失败模式是什么？
• RQ5 检测领域中哪些域自适应方面仍属未充分探索，且具有高潜力的未来研究价值？

主要发现

• 综述指出，由于需要同时对齐特征与边界框预测，目标检测中的域偏移比分类或分割更为复杂。
• 对抗域自适应与基于伪标签的自训练是最常用策略，但通常无法有效解决目标域中建议框与真实框之间的错位问题。
• 仅进行特征级对齐不足以提升性能；联合优化建议框与检测头对性能提升至关重要。
• 许多现有方法在回归头中仍面临域偏移问题，导致即使分类准确率提升，定位精度依然较差。
• 综述指出，一致性正则化与知识蒸馏是提升低资源目标域鲁棒性的有前景技术。
• 未来研究应聚焦于改进区域建议框的对齐、优化伪标签策略，以及开发端到端的域自适应框架，以联合优化检测与域对齐。