[논문 리뷰] Deep Domain Adaptive Object Detection: a Survey

Wanyi Li, Fuyu Li외 3명|arXiv (Cornell University)|2020. 02. 17.

Domain Adaptation and Few-Shot Learning참고 문헌 42인용 수 13

한 줄 요약

이 종합 검토는 소스 도메인에서 학습된 모델을 표적 도메인에서 잘 작동하도록 적응시켜 객체 검출에서 발생하는 도메인 이동 문제를 해결하는 딥 도메인 적응형 객체 검출(DDAOD) 방법을 검토한다. 제한된 또는 레이블이 없는 표적 도메인 데이터를 가정할 때, 기존의 접근 방식을 다섯 가지 범주로 분류한다: 특성 공간에서의 도메인 적응, 적대적 훈련, 자기 훈련, 지식 정렬, 메타학습이며, 대표적인 방법들을 종합적으로 분석하여 DDAOD 분야의 향후 연구 방향에 대한 통찰을 제공한다.

ABSTRACT

Deep learning (DL) based object detection has achieved great progress. These methods typically assume that large amount of labeled training data is available, and training and test data are drawn from an identical distribution. However, the two assumptions are not always hold in practice. Deep domain adaptive object detection (DDAOD) has emerged as a new learning paradigm to address the above mentioned challenges. This paper aims to review the state-of-the-art progress on deep domain adaptive object detection approaches. Firstly, we introduce briefly the basic concepts of deep domain adaptation. Secondly, the deep domain adaptive detectors are classified into five categories and detailed descriptions of representative methods in each category are provided. Finally, insights for future research trend are presented.

연구 동기 및 목표

• 학습 데이터와 테스트 데이터의 분포가 다를 때 발생하는 딥 객체 검출에서의 도메인 이동 문제를 해결하기 위해.
• 실제 세계의 데이터 분포 이동 상황에서 최신의 딥 도메인 적응형 객체 검출(DDAOD) 방법을 검토하기 위해.
• 적응 메커니즘에 따라 다섯 가지로 명확히 분류된 DDAOD 접근 방식을 분류하고 분석하기 위해.
• DDAOD 분야의 열린 과제와 향후 연구 추세에 대한 통찰을 제공하기 위해.

제안 방법

• DDAOD 방법을 다섯 가지 범주로 분류: 특성 공간에서의 도메인 적응, 적대적 훈련, 자기 훈련, 지식 정렬, 메타학습.
• 각 범주에 속하는 대표적인 방법을 분석하여 핵심 아키텍처와 적응 전략을 제시.
• 도메인 불변 표현을 사용하여 소스 도메인과 표적 도메인 간의 특성 분포를 정렬하는 기법 평가.
• 일致성 정규화 또는 가짜 레이블을 활용하여 레이블이 없는 표적 도메인 데이터를 활용하는 방법 서베이.
• 구분자(discriminator)를 사용하여 소스 특성와 표적 특성을 구분하는 적대적 프레임워크 분석.
• 교수 모델에서 학생 모델로 지식을 전달하는 지식 정렬 기반 접근 방식 검토.

실험 결과

연구 질문

• RQ1 다양한 DDAOD 방법들은 객체 검출에서 도메인 이동을 어떻게 완화하는가?
• RQ2 최신 DDAOD 접근 방식에서 사용되는 핵심 아키텍처와 훈련 전략은 무엇인가?
• RQ3 자기 지도 학습 및 적대적 방법은 도메인 간 객체 검출기 적응에서 어떻게 비교되는가?
• RQ4 현재 DDAOD 방법들이 큰 도메인 이동이나 긴 꼬리 분포(long-tail distributions)를 다룰 때 겪는 한계는 무엇인가?
• RQ5 DDAOD를 발전시키기 위해 가장 유망한 향후 연구 방향은 무엇인가?

주요 결과

• 이 종합 검토는 도메인 이동을 다루는 데 각각의 고유한 강점이 있는 다섯 가지 주요 DDAOD 방법 범주를 규명한다.
• 적대적 훈련과 자기 훈련 방법은 도메인 간 특성 분포 정렬에서 뛰어난 성능을 보인다.
• 지식 정렬 기반 접근 방식은 최소한의 애너테이션으로도 소스 도메인에서 표적 도메인으로 검출 지식을 효과적으로 전달할 수 있다.
• 메타학습 방법은 소수의 샘플만 있는 도메인 적응 시나리오에서 잠재력을 보여준다.
• 이 종합 검토는 실세계 적용을 위해 더 강력하고 일반화 능력이 뛰어나며 확장성이 높은 DDAOD 프레임워크의 필요성을 부각시킨다.
• 향후 연구는 큰 도메인 이동 상황에서의 일반화 능력 향상, 긴 꼬리 분포 다루기, 불확실성 추정 통합에 초점을 맞춰야 한다.