[논문 리뷰] Diversity-Achieving Slow-DropBlock Network for Person Re-Identification

Xiaofu Wu, Ben Xie외 4명|arXiv (Cornell University)|2020. 02. 09.

Video Surveillance and Tracking Methods참고 문헌 24인용 수 4

한 줄 요약

이 논문은 중간 레이어에서의 특징 드롭아웃을 입력 이미지 수준으로 이동시켜 다중 드롭아웃 브랜치와 개별 드롭아웃 비율을 통해 더 높은 특징 다양성을 확보하는 Diversity-Achieving Slow-DropBlock (SDB) 네트워크를 제안한다. 새로운 더블배치분할 공동학습 전략이 학습 수렴을 보장하여 Market-1501, DukeMTMC-reID, CUHK03에서 최신 기술 수준의 성능을 달성하며, 이전 방법 대비 mAP 최대 4.3% 향상.

ABSTRACT

A big challenge of person re-identification (Re-ID) using a multi-branch network architecture is to learn diverse features from the ID-labeled dataset. The 2-branch Batch DropBlock (BDB) network was recently proposed for achieving diversity between the global branch and the feature-dropping branch. In this paper, we propose to move the dropping operation from the intermediate feature layer towards the input (image dropping). Since it may drop a large portion of input images, this makes the training hard to converge. Hence, we propose a novel double-batch-split co-training approach for remedying this problem. In particular, we show that the feature diversity can be well achieved with the use of multiple dropping branches by setting individual dropping ratio for each branch. Empirical evidence demonstrates that the proposed method performs superior to BDB on popular person Re-ID datasets, including Market-1501, DukeMTMC-reID and CUHK03 and the use of more dropping branches can further boost the performance.

연구 동기 및 목표

• ID 레이블이 부여된 데이터를 활용한 다중 브랜치 person Re-ID 네트워크에서 다양성을 확보하는 특징 학습의 과제를 해결하기 위해.
• 강한 입력 수준의 이미지 드롭아웃으로 인한 학습 불안정성, 즉 수렴이 어려워지는 문제를 극복하기 위해.
• 두 브랜치 Batch DropBlock (BDB) 프레임워크를 임의의 수의 드롭아웃 브랜치로 확장하여 특징 다양성을 향상시키기 위해.
• 안정적인 학습을 보장하면서도 다수의 드롭아웃 브랜치 간 높은 특징 다양성을 유지할 수 있는 공동학습 전략을 개발하기 위해.
• SDB의 효과성을 여러 표준 Re-ID 벤치마크에서 경험적으로 검증하기 위해.

제안 방법

• 특징 드롭아웃 연산을 중간 레이어에서 입력 이미지 수준으로 이동시켜 학습된 표현의 다양성을 높이는 Slow-DropBlock (SDB)를 제안한다.
• 글로벌 브랜치와 로컬(드롭아웃) 브랜치의 학습을 분리하는 새로운 더블배치분할 공동학습 접근법을 도입하여, 강한 입력 수준 드롭아웃 상황에서도 수렴을 보장한다.
• 각기 다른 드롭아웃 비율(r_h = 0.1, 0.3, 0.5 등)을 가진 다중 드롭아웃 브랜치를 활용해 다양한 공간 영역에서의 특징 학습을 촉진한다.
• 특징 표현 품질을 향상시키기 위해 어텐션 모듈을 통합하여, 특히 도전적인 상황에서의 성능을 개선한다.
• CUHK03에서 성능 향상을 위해 차원 감소 레이어를 활용하며, 이는 레이블이 부여된 분할에서 순위-1 정확도를 10.0% 향상시킨다.
• 학습 중 드롭아웃 패턴 갱신 빈도를 제어하기 위해 융통성 있는 변화율 파라미터 Q를 도입하여 수렴성과 성능 최적화를 달성한다.

실험 결과

연구 질문

• RQ1 중간 레이어에서 입력 이미지 수준으로 드롭아웃 연산을 이동시키면 person Re-ID에서 특징 다양성이 크게 향상되는가?
• RQ2 강한 입력 수준의 이미지 드롭아웃으로 인해 수렴이 어려워지는 상황에서 안정적인 학습을 어떻게 달성할 수 있는가?
• RQ3 두 브랜치 BDB 프레임워크를 L-브랜치 아키텍처(L ≥ 2)로 확장하면 일관된 성능 향상이 이루어지는가?
• RQ4 다양한 Re-ID 데이터셋에서 최고의 성능을 내기 위해 드롭아웃 비율과 학습 전략(예: 공동학습)의 최적 구성은 무엇인가?
• RQ5 어텐션 모듈과 차원 감소 레이어는 특히 CUHK03 데이터셋에서 성능에 어떤 영향을 미치는가?

주요 결과

• SDB-2는 Market-1501에서 BDB 이중 브랜치 네트워크 대비 mAP 4.3% 향상되어, 다중 브랜치와 함께 입력 수준 드롭아웃의 우수성을 입증한다.
• 더블배치분할 공동학습은 단일 배치 학습 대비 CUHK03에서 mAP 약 3.0% 향상시켜, 학습 안정성 확보에 효과적임을 확인한다.
• DukeMTMC-reID에서 SDB-2의 최적 드롭아웃 비율은 r_h = 0.3이며, 이로써 mAP 78.9%, 순위-1 정확도 89.8% 달성.
• 공동학습은 모든 데이터셋에서 성능 향상을 일관되게 유도하며, CUHK03에서 가장 큰 향상이 관찰되어 글로벌 및 로컬 브랜치 간 상호 강화 효과를 보여준다.
• 어텐션 모듈은 모든 데이터셋에서 mAP 약 1% 향상시키며, 특징 구분 능력 향상에 기여함을 보여준다.
• 차원 감소 레이어 덕분에 CUHK03-Labeled에서 순위-1 정확도가 70.4%에서 80.4%로 10.0% 향상되어, 이 데이터셋에 있어 중요성을 입증한다.