[논문 리뷰] Global Distance-distributions Separation for Unsupervised Person Re-identification

Xin Jin, Cuiling Lan외 2명|arXiv (Cornell University)|2020. 06. 01.

Video Surveillance and Tracking Methods참고 문헌 51인용 수 7

한 줄 요약

이 논문은 양성 및 음성 샘플 간의 거리 분포 간 분리도를 향상시켜 비지도(person re-identification) 성능을 향상시키기 위해 글로벌 거리분포 분리(GDS) 제약을 제안한다. 이 제약는 이러한 분포를 가우시안으로 모델링하고, 글로벌 통계를 유지하기 위해 동적(momentum-based) 업데이트 메커니즘을 사용함으로써 특성 공간의 분리도를 향상시키고, 분포 인식 하드 샘플 마이닝을 가능하게 하여 최소한의 학습 오버헤드로 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

Supervised person re-identification (ReID) often has poor scalability and usability in real-world deployments due to domain gaps and the lack of annotations for the target domain data. Unsupervised person ReID through domain adaptation is attractive yet challenging. Existing unsupervised ReID approaches often fail in correctly identifying the positive samples and negative samples through the distance-based matching/ranking. The two distributions of distances for positive sample pairs (Pos-distr) and negative sample pairs (Neg-distr) are often not well separated, having large overlap. To address this problem, we introduce a global distance-distributions separation (GDS) constraint over the two distributions to encourage the clear separation of positive and negative samples from a global view. We model the two global distance distributions as Gaussian distributions and push apart the two distributions while encouraging their sharpness in the unsupervised training process. Particularly, to model the distributions from a global view and facilitate the timely updating of the distributions and the GDS related losses, we leverage a momentum update mechanism for building and maintaining the distribution parameters (mean and variance) and calculate the loss on the fly during the training. Distribution-based hard mining is proposed to further promote the separation of the two distributions. We validate the effectiveness of the GDS constraint in unsupervised ReID networks. Extensive experiments on multiple ReID benchmark datasets show our method leads to significant improvement over the baselines and achieves the state-of-the-art performance.

연구 동기 및 목표

• 비지도 인체 재식별에서 음성 및 양성 샘플 간 거리 분포의 낮은 분리도 문제를 해결하여 검색 성능 저하를 방지하기 위해.
• 현장 최적화 목표와 ReID의 글로벌 랭킹 요구사항 간 격차를 해소하기 위해 글로벌 분포 수준의 제약을 도입하기 위해.
• 자기지도 학습 방식으로 거리 분포의 글로벌 통계(평균 및 분산)를 모델링하고 최적화하여 비지도 ReID 성능을 향상시키기 위해.
• 학습을 이끄는 데 사용되는 학습된 글로벌 분포 통계를 활용하여 효과적인 하드 샘플 마이닝을 가능하게 하기 위해.
• 도메인 이동이 발생하는 라벨이 없는 타겟 도메인에서 모델의 일반화 능력과 강건성을 크게 향상시키면서도 학습 오버헤드를 최소화하기 위해.

제안 방법

• 이 방법은 양성 및 음성 샘플 쌍의 글로벌 거리 분포를 학습 가능한 평균 및 분산 파rameter를 가진 가우시안 분포로 모델링한다.
• 실시간으로 글로벌 분포 파라미터(μ⁺, σ⁺², μ⁻, σ⁻²)를 유지하고 업데이트하기 위해 동적 업데이트 메커니즘을 사용하여 안정적이고 적시에 통계를 확보한다.
• 현재 추정된 글로벌 분포를 기반으로 실시간으로 GDS 손실을 계산하여 두 가우시안 간 분리도를 증진시키고, 날카움(분산 감소)을 유도한다.
• 분포 기반 하드 샘플 마이닝을 도입하여 분포의 하드 꼬리 영역(예: 가장 먼 양성 또는 가장 가까운 음성 샘플)에 위치한 샘플을 선택함으로써 일반화 능력을 향상시킨다.
• 가짜 레이블링과 클러스터링을 사용하는 비지도 ReID 파이프라인에 통합되며, 계산 오버헤드가 최소한이다.
• 기존의 클러스터링 기반 비지도 ReID 프레임워크와 호환되며, 플러그인 손실로 적용 가능하다.

실험 결과

연구 질문

• RQ1 글로벌 거리분포 분리가 음성 및 양성 샘플 간 거리 겹침을 줄임으로써 비지도 인체 재식별 성능 향상에 기여할 수 있는가?
• RQ2 동적 업데이트를 통한 글로벌 분포 통계(평균 및 분산) 모델링이 비지도 ReID에서 특성 공간의 분리도에 어떤 영향을 미치는가?
• RQ3 기존의 하드 마이닝과 비교해 분포 인식 하드 마이닝이 모델의 일반화 능력을 얼마나 향상시키는가?
• RQ4 GDS 제약이 다양한 클러스터링 알고리즘과 도메인 적응 설정에서 효과를 유지하는가?
• RQ5 기존의 비지도 ReID 학습 파이프라인에 GDS 손실을 통합할 경우 계산 비용은 얼마나 되는가?

주요 결과

• 제안된 GDS 제약은 훈련 및 테스트 세트 히스토GRAM에서 더 명확한 분리도를 보이며, 음성 및 양성 거리 분포의 분리도가 뚜렷하게 향상됨을 입증한다.
• Market1501-to-DukeMTMC-reID 벤치마크에서, 이 방법은 49.0% mAP 및 67.2% Rank-1 성능을 달성하여 기준 모델 대비 8.8%p 향상되었다.
• 다양한 클러스터링 알고리즘에 걸쳐 일관되게 성능 향상을 보였으며, DBSCAN의 경우 mAP가 6.7%p, HDBSCAN의 경우 6.1%p 향상되었다.
• 학습 시간 증가는 극히 미미하여 기준 모델 대비 뿐 뿐 아니라 1.7% 뿐이었으며(18.2 vs. 17.9시간), 낮은 계산 오버헤드를 입증한다.
• 완전히 지도 학습 ReID에서도 GDS 제약이 성능 향상을 이끌었지만, 성과 증가 폭은 더 작았으며(1.6–1.9%p mAP), 이는 보다 광범위한 적용 가능성을 시사한다.
• 동적 업데이트 메커니즘이 글로벌 분포 통계의 안정적이고 적시에 추정 가능하게 하여, 학습 중 손실 계산에 있어 효과적인 기여를 한다.