[논문 리뷰] Learning Deep Feature Representations with Domain Guided Dropout for Person Re-identification

Tong Xiao, Hongsheng Li외 2명|arXiv (Cornell University)|2016. 04. 26.

Video Surveillance and Tracking Methods참고 문헌 40인용 수 100

한 줄 요약

이 논문은 다수의 사람 재식별 데이터셋에서 일반적인 CNN 특징을 학습하고, 도메인 가이드 dropout을 도입해 도메인 특화 뉴런을 무음으로 만들어, 여러 데이터셋에서 최첨단 성능을 달성한다.

ABSTRACT

Learning generic and robust feature representations with data from multiple domains for the same problem is of great value, especially for the problems that have multiple datasets but none of them are large enough to provide abundant data variations. In this work, we present a pipeline for learning deep feature representations from multiple domains with Convolutional Neural Networks (CNNs). When training a CNN with data from all the domains, some neurons learn representations shared across several domains, while some others are effective only for a specific one. Based on this important observation, we propose a Domain Guided Dropout algorithm to improve the feature learning procedure. Experiments show the effectiveness of our pipeline and the proposed algorithm. Our methods on the person re-identification problem outperform state-of-the-art methods on multiple datasets by large margins.

연구 동기 및 목표

• 다양하고 편향된 다수의 사람 재식별 데이터셋에서 견고한 특징 표현을 학습하도록 동기를 부여한다.
• 여러 도메인을 공동으로 사용하여 일반적인 특징을 학습하는 CNN 아키텍처와 학습 파이프라인을 제안한다.
• 도메인 가이드 Dropout을 도입하여 도메인 특화 뉴런을 억제하고 다도메인 학습을 정규화한다.
• 여러 표준 재식별 데이터셋에서 최첨단 대비 유의미한 성능 향상을 입증한다.

제안 방법

• 여러 도메인을 결합한 데이터셋에서 CNN을 처음부터 학습하여 단일 소프트맥스 손실로 공유 특징 추출기 g를 학습한다.
• 각 도메인에 대해 손실에 대한 뉴런의 평균 영향을 계산하여 도메인 관련 뉴런을 식별한다.
• 학습 중 도메인 특화 뉴런을 차단하기 위해 표준 Dropout을 도메인 가이드 Dropout(결정론적 또는 확률적)으로 대체한다.
• 도메인별로 확률적 도메인 가이드 Dropout으로 미세조정하여 도메인 특화 성능을 극대화한다.
• 학습된 특징 간의 유클리드 거리를 사람 재식별 평가에 사용하고, 쌍 간 손실이 있는 메트릭 학습 대신으로 한다.

실험 결과

연구 질문

• RQ1 여러 도메인 데이터셋을 병합하는 것이 모든 도메인에서 잘 작동하는 일반적인 CNN 특징 표현을 낳을 수 있는가?
• RQ2 도메인 특화 뉴런이 존재하며, 도메인별로 이를 마스킹하는 것이 교차 도메인 성능을 향상시킬 수 있는가?
• RQ3 도메인 가이드 Dropout(결정론적 및 확률적)이 표준 dropout 및 JSTL 기준선에 비해 여러 데이터셋에서 성능을 향상시키는가?

주요 결과

• 공동 학습된 모델(JSTL)은 단일 도메인에서 학습한 경우에 비해 대부분의 데이터셋에서 성능을 향상시킨다.
• 도메인 가이드드 드롭아웃(DGD)은 JSTL 이후 도메인별 성능을 0.5%–2.7%씩 일관되게 향상시킨다.
• 개별 도메인에서 확률적 DGD로 미세조정하면 JSTL+DGD보다 추가 이득이 있어 도메인 특화 정확도를 향상시킨다.
• FT-JSTL+DGD로 최상의 결과를 얻으며, 여러 데이터셋에서 기존 최고의 방법들을 능가한다.
• 가장 큰 향상은 다수의 데이터셋을 결합했을 때 보고되며, 작은 도메인에서 주목할 만한 개선이 나타난다.