[논문 리뷰] Multi-shot Pedestrian Re-identification via Sequential Decision Making

Jianfu Zhang, Naiyan Wang외 1명|arXiv (Cornell University)|2017. 12. 19.

Video Surveillance and Tracking Methods참고 문헌 27인용 수 4

한 줄 요약

이 논문은 다중 샷 보행자 재식별을 위한 강화학습 기반 순차적 의사결정 프레임워크를 제안한다. 에이전트는 한 장씩 이미지 쌍을 평가하며 '같음' 또는 '다름' 또는 더 많은 증거를 요청하는 '모르겠다' 중 하나를 선택한다. 자신감에 따라 사용하는 이미지 수를 동적으로 조정함으로써, 전체 이미지의 3%에서 6%만을 사용하면서도 최신 기술 수준의 정확도를 달성하며, 이는 높은 성능를 유지하면서도 효율성을 크게 향상시킨다.

ABSTRACT

Multi-shot pedestrian re-identification problem is at the core of surveillance video analysis. It matches two tracks of pedestrians from different cameras. In contrary to existing works that aggregate single frames features by time series model such as recurrent neural network, in this paper, we propose an interpretable reinforcement learning based approach to this problem. Particularly, we train an agent to verify a pair of images at each time. The agent could choose to output the result (same or different) or request another pair of images to verify (unsure). By this way, our model implicitly learns the difficulty of image pairs, and postpone the decision when the model does not accumulate enough evidence. Moreover, by adjusting the reward for unsure action, we can easily trade off between speed and accuracy. In three open benchmarks, our method are competitive with the state-of-the-art methods while only using 3% to 6% images. These promising results demonstrate that our method is favorable in both efficiency and performance.

연구 동기 및 목표

• 모든 프레임을 동일하게 처리하는 기존 다중 샷 재식별 방법의 비효율성과 노이즈 민감도 문제를 해결하기 위해.
• 보행자 재식별의 의사결정 과정을 순차적이고 적응적인 과정으로 모델링하여 속도와 정확도의 균형을 이루기 위해.
• 어려운 또는 노이즈가 많은 샘플을 암묵적으로 식별하고 충분한 증거가 축적될 때까지 결정을 연기하는 방법을 개발하기 위해.
• 보상 설계를 통해 속도와 정확도 사이의 트레이드오���을 조정할 수 있는 엔드 투 엔드 해석 가능한 의사결정을 가능하게 하기 위해.
• Q-값 함수가 샘플의 어려움을 신뢰할 수 있는 지표로 기능할 수 있는지 확인하기 위해.

제안 방법

• 이 방법은 딥 강화학습을 사용하여 다중 샷 재식별을 순차적 의사결정 문제로 공식화한다.
• 에이전트는 두 트랙의 이미지 쌍을 한 장씩 처리하며, '같음', '다름', 또는 '모르겠다'(더 많은 증거 요청) 중 하나의 동작을 선택한다.
• 에이전트의 정책은 잘못된 결정에 대한 벌점과 조기에 올바른 결정을 내릴 경우에 대한 보상을 부여하는 보상 함수를 사용한 딥 Q네트워크(DQN)로 훈련된다.
• 현재 행동을 결정하기 위해 이미지 수준의 특징과 이전 의사결정의 맥락을 모두 통합함으로써 적응적인 추론가능성을 확보한다.
• 각 동작에 대한 Q-값 출력은 현재 이미지 쌍의 자신감과 어려움을 평가하는 데 사용되며, 이는 의사결정 경로의 해석 가능성을 보장한다.
• 이 프레임워크는 딥 러닝이 아닌 방법을 포함한 모든 이미지 수준의 특징 추출기와 호환되며, 속도와 정확도 사이의 보상 기반 트레이드오프를 지원한다.

실험 결과

연구 질문

• RQ1 강화학습 에이전트가 이미지 쌍을 얼마나 많은 수로 검토할지를 동적으로 선택함으로써 다중 샷 보행자 재식별에서 의사결정 속도와 정확도 사이의 균형을 효과적으로 유지할 수 있는가?
• RQ2 고정된 집계 방법과 비교할 때, 모델이 결정을 유보함으로써 노이즈가 많거나 품질이 낮은 프레임에 대해 얼마나 더 강건한가?
• RQ3 Q-값 함수가 이미지 쌍의 어려움을 안정적이고 해석 가능한 지표로 효과적으로 반영할 수 있는가?
• RQ4 특히 실생활 감시 환경에서 기존 기준 대비 훨씬 적은 수의 이미지를 사용하면서도 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ5 속도 또는 정확도를 우선시하는 다양한 보상 설정에서 모델의 성능는 어떻게 변화하는가?

주요 결과

• PRID2011 데이터셋에서 제안된 방법은 CMC 랭크 1 정확도 86.4%를 달성하여 기존 최고 성능 방법보다 약 5% 높은 성능을 보였다.
• iLIDS-VID 및 MARS 데이터셋에서, 전체 프레임을 사용하는 최신 기술 수준의 모델들과 비교해도 경쟁력 있거나 더 우수한 성능을 보였으며, CMC 랭크 1 결과는 동등하거나 초월했다.
• 모델은 평균적으로 트랙 쌍당 전체 이미지의 3%에서 6%만을 사용하여, 전체 시퀀스 기반 기준 대비 계산 비용을 크게 감소시켰다.
• Q-값 함수는 이미지 쌍의 어려움을 효과적으로 반영하며, 높은 값은 더 높은 자신감의 예측을, 낮은 값은 애매하거나 노이즈가 많은 샘플을 나타낸다.
• 제거 실험 결과, 수작업 특징을 제거하거나 히스토리 인코더를 LSTM으로 대체할 경우 성능 저하가 심각하게 발생함을 확인하여 설계 선택의 타당성을 입증했다.
• 랜덤 순서로 이미지 쌍을 처리했을 때 순차적 순서보다 더 우수한 성능를 보였으며, 이는 비순차적 처리 방식이 시간적 순서에 기인한 편향을 피하는 데 기여함을 시사한다.