[논문 리뷰] Deep Reinforcement Learning Attention Selection for Person Re-Identification

Lan Xu, Hanxiao Wang외 2명|arXiv (Cornell University)|2017. 07. 10.

Video Surveillance and Tracking Methods참고 문헌 31인용 수 10

한 줄 요약

이 논문은 자동으로 검출된 인체 바운딩 박스 내에서 신원을 구분하는 데 유의미한 주의 영역을 자동으로 선택하는 딥 강화학습 프레임워크인 IDEAL을 제안한다. 이는 쌍별 re-ID 제약 조건에 기반해 훈련된 Q-네트워크를 통해 주의 영역 선택을 최적화함으로써, 수동으로 잘라낸 박스 수준의 성능에 근접한 re-ID 정확도를 달성하며, 자동 검출 설정에서 관찰된 8.2%의 랭크-1 성능 저하를 거의 제로 수준으로 줄인다.

ABSTRACT

Existing person re-identification (re-id) methods assume the provision of accurately cropped person bounding boxes with minimum background noise, mostly by manually cropping. This is significantly breached in practice when person bounding boxes must be detected automatically given a very large number of images and/or videos processed. Compared to carefully cropped manually, auto-detected bounding boxes are far less accurate with random amount of background clutter which can degrade notably person re-id matching accuracy. In this work, we develop a joint learning deep model that optimises person re-id attention selection within any auto-detected person bounding boxes by reinforcement learning of background clutter minimisation subject to re-id label pairwise constraints. Specifically, we formulate a novel unified re-id architecture called Identity DiscriminativE Attention reinforcement Learning (IDEAL) to accurately select re-id attention in auto-detected bounding boxes for optimising re-id performance. Our model can improve re-id accuracy comparable to that from exhaustive human manual cropping of bounding boxes with additional advantages from identity discriminative attention selection that specially benefits re-id tasks beyond human knowledge. Extensive comparative evaluations demonstrate the re-id advantages of the proposed IDEAL model over a wide range of state-of-the-art re-id methods on two auto-detected re-id benchmarks CUHK03 and Market-1501.

연구 동기 및 목표

• 자동 검출된 바운딩 박스에서 배경의 혼잡함과 정렬 불일치로 인한 person re-identification(re-ID) 성능 저하 문제를 해결한다.
• 기존 re-ID 방법들이 수동으로 잘라낸 깔끔한 바운딩 박스를 전제로 하여 대규모 배포에 비현실적인 점을 극복한다.
• 수동 레이블링이 필요 없이 바운딩 박스를 자동으로 선택하는 종단 간(end-to-end), 자동화된 주의 영역 선택 메커니즘을 개발한다.
• 강화학습과 딥 메트릭 학습을 융합하여 주의 영역 선택과 신원 구분 능력을 통합된 프레임워크에서 동시에 최적화한다.
• 실제 검출 조건에서 자동 주의 영역 선택이 인간 수준의 성능을 재현하거나 초월할 수 있음을 입증한다.

제안 방법

• 신원 임베딩을 위한 딥 메트릭 학습 네트워크와 주의 영역 선택을 위한 딥 Q-네트워크를 통합한 통합 아키텍처인 IDEAL을 제안한다.
• 쌍별 re-ID 제약 조건에 기반한 보상 함수를 정의한다: 동일 신원의 양성 쌍은 높은 주의 유사도를 가져야 하고, 다른 신원의 음성 쌍은 낮은 유사도를 가져야 한다.
• 다중 해상도 액션 공간을 주의 영역 선택에 사용하며, 액션은 바운딩 박스 면적의 5%, 10%, 20% 영역에 주의를 기울이는 것으로 정의된다.
• 강화학습 기반의 딥 Q-러닝을 통해 주의 정책을 훈련하며, 이는 배경 혼잡도를 최소화하고 신원 구분 능력을 최대화하는 데 주의 영역을 선택하는 데 목적이 있다.
• 동일 시점 이미지 간 비교를 통해 일관된 배경 패턴을 탐지하고 가짜 양성 결과에 대한 강건성을 향상시키기 위해 상대적 비교 보상 함수를 도입한다.
• 훈련된 IDEAL 모델은 기존의 사전 훈련된 인체 검출기와 독립적으로 적용 가능하므로, 기존 검출 파ip라인에 즉시 통합할 수 있다.

실험 결과

연구 질문

• RQ1 자동 검출된 인체 바운딩 박스 내에서 신원을 구분하는 데 중요한 주의 영역을 선택하는 데에 강화학습을 효과적으로 활용할 수 있는가?
• RQ2 고배경 혼잡도를 동반한 자동 검출된 바운딩 박스에 적용했을 때, 제안된 IDEAL 모델은 최신 기술의 주의 기반 re-ID 방법보다 어떻게 비교되는가?
• RQ3 IDEAL을 통한 자동 주의 영역 선택은 수동으로 잘라낸 바운딩 박스의 성능을 어느 정도 재현하거나 초월할 수 있는가?
• RQ4 다양한 주의 액션 공간 설계(예: 5%, 10%, 20% 대비 10%, 20%, 30%)가 re-ID 성능에 어떤 영향을 미치는가?
• RQ5 보상 함수의 선택(예: 절대 비교 대비 상대적 비교)은 주의 학습의 강건성과 정확도에 어떤 영향을 미치는가?

주요 결과

• IDEAL은 자동 검출된 바운딩 박스를 사용할 때 CUHK03에서 랭크-1 정확도 71.0%를 달성하였으며, 수동으로 잘라낸 박스의 71.9%와 매우 유사한 성능을 보였다.
• Market-1501에서는 mAP 91.3%와 R20 95.9%를 기록하여, 자동 검출 입력에서도 우수한 일반화 성능을 입증하였다.
• 상대적 비교 보상 함수는 절대 및 순위 기반 보상 함수보다 우수한 성능을 보였으며, 동일 시점 음성 쌍 비교를 통해 배경 혼잡도 탐지 능력을 향상시켰다.
• 가장 세밀한 액션 공간({5%, 10%, 20%})이 가장 뛰어난 성능을 보였으며, 이는 작은 정밀한 주의 영역이 신원 구분에 핵심적임을 시사한다.
• 무작위 및 중심 기반 주의 베이스라인은 주의 없이도 열등한 성능을 보였으며, 이는 최적의 주의 영역 선택이 비단 직관적이지 않으며 지능적인 학습이 필요함을 증명한다.
• IDEAL은 자동 검출 대비 수동 잘라내기에서 관찰된 랭크-1 성능 저하 8.2%를 거의 제로 수준으로 줄여, 고비용 수동 잘라내기의 필요성을 효과적으로 제거하였다.