[논문 리뷰] Multiple Instance Reinforcement Learning for Efficient Weakly-Supervised Detection in Images

Stefan Mathe, Cristian Sminchisescu|arXiv (Cornell University)|2014. 11. 29.

Advanced Vision and Imaging참고 문헌 20인용 수 12

한 줄 요약

이 논문은 이미지 수준 레이블과 눈동자 움직임 데이터만을 사용하여 바운딩 박스 애너테이션 없이도 효율적인 객체 검출을 위한 약한 지도 학습 다중 예제 강화 학습 프레임워크를 제안한다. 다중 예제 학습에서의 위상적 제약 조건과 순차적 탐색 전략을 위한 강화 학습을 결합함으로써, 이 방법은 전수 슬라이딩 윈도우 방법과 유사한 검출 정확도를 달성하면서도 계산 비용을 최대 50%까지 감소시킨다.

ABSTRACT

State-of-the-art visual recognition and detection systems increasingly rely on large amounts of training data and complex classifiers. Therefore it becomes increasingly expensive both to manually annotate datasets and to keep running times at levels acceptable for practical applications. In this paper, we propose two solutions to address these issues. First, we introduce a weakly supervised, segmentation-based approach to learn accurate detectors and image classifiers from weak supervisory signals that provide only approximate constraints on target localization. We illustrate our system on the problem of action detection in static images (Pascal VOC Actions 2012), using human visual search patterns as our training signal. Second, inspired from the saccade-and-fixate operating principle of the human visual system, we use reinforcement learning techniques to train efficient search models for detection. Our sequential method is weakly supervised and general (it does not require eye movements), finds optimal search strategies for any given detection confidence function and achieves performance similar to exhaustive sliding window search at a fraction of its computational cost.

연구 동기 및 목표

• 대규모 객체 검출에서 수동 애너테이션의 높은 비용 문제를 해결하기 위해 이미지 레이블과 인간의 눈동자 움직임 데이터와 같은 약한 지도 신호를 활용한다.
• 정답 바운딩 박스나 세그먼테이션 정보가 필요 없이 정확한 검출기를 추론할 수 있는 세그먼테이션 기반 다중 예제 학습 모델을 개발한다.
• 인간의 사카데 및 정지 메커니즘을 모방한 강화 학습 기반 순차적 탐색 전략을 설계하여 계산 비용을 줄이면서도 검출 정확도를 유지한다.
• 눈동자 움직임 데이터가 약한 지도 학습 환경에서 검출 및 분류 모델을 훈련시키는 데 있어 강력한, 그러나 아직 충분히 활용되지 않는 지도 신호가 될 수 있음을 입증한다.

제안 방법

• 이미지 수준 레이블과 눈동자 움직임 데이터만을 사용하여 국소화 정확도를 향상시키기 위해 위상적 제약 조건을 통합한 제약 조건이 있는 다중 예제 학습(CMI) 모델을 수립한다.
• CPMC(맥락 인식 제안 추출)를 사용한 세그먼테이션 기반 접근 방식을 통해 후보 영역을 생성하고, 이를 약한 지도 학습을 통해 훈련된 신뢰도 함수로 평가한다.
• 강화 학습을 적용하여 인간 시각 스캐닝을 모방하는 최적의 순차적 탐색 정책을 학습하며, 에이전트는 신뢰도 점수와 기대 보상을 기반으로 평가할 영역을 선택한다.
• 과적합을 방지하기 위한 정규화를 포함한 BFGS 기반 알고리즘을 사용하여 탐색 정책을 최적화한다.
• 정답 바운딩 박스가 필요 없이 이미지 수준 레이블과 눈동자 움직임 패tern만을 사용하여 검출 신뢰도 함수와 탐색 정책을 함께 훈련한다.
• 학습된 탐색 정책을 CPMC 기반의 제안 생성 파이프라인과 통합하여 추론 시 평가 대상 영역 수를 줄이면서도 높은 정확도를 유지한다.

실험 결과

연구 질문

• RQ1 바운딩 박스 애너테이션이 없이도 눈동자 움직임 데이터를 효과적으로 약한 지도 신호로 활용하여 정확한 객체 검출기를 훈련시킬 수 있는가?
• RQ2 다중 예제 학습에서 위상적 제약 조건이 약한 지도 학습 검출에서 국소화 정확도를 어떻게 향상시키는가?
• RQ3 강화 학습 기반 순차적 탐색 전략은 계산 비용을 줄이면서도 전수 슬라이딩 윈도우 검색의 성능을 어느 정도 재현할 수 있는가?
• RQ4 검출 신뢰도와 탐색 정책을 함께 최적화하는 공동 학습 프레임워크는 검출과 탐색을 별도로 훈련하는 이단계적 접근 방식을 능가하는가?
• RQ5 이미지 수준 레이블과 눈동자 움직임 데이터만을 사용할 때, 약한 지도 학습 검출의 성능은 완전히 지도 학습 기반 베이스라인과 비교해 어떻게 되는가?

주요 결과

• 제안된 CMI-EYE-DET 방법은 정답 바운딩 박스가 없음에도 불구하고, 완전히 지도 학습 기반 베이스라인과 유사한 검출 평균 정밀도를 달성한다.
• 다중 예제 학습 프레임워크에 위상적 제약 조건을 통합함으로써 모든 평가 지표에서 국소화 정확도가 크게 향상된다.
• 눈동자 움직임 데이터를 통해 분류 성능가 완전히 지도 학습 모델이 바운딩 박스 애너테이션을 사용해 훈련한 모델에 근접한 성능을 달성한다.
• 강화 학습 기반 탐색 전략(CMI-EYE-SEQ)은 전수 검색 대비 후보 세그먼트의 약 50%만 평가함으로써 거의 동일한 검출 및 분류 정확도를 유지한다.
• 계산 시간이 크게 감소한다 — CPMC 세그먼트 추출을 고려하더라도 평균적으로 전수 평가 대비 두 배 이상의 속도 향상을 달성한다.
• 모든 지표에서 표준 다중 예제 학습 및 눈동자 움직임 전용 베이스라인보다 성능이 뛰어나며, 검출 신뢰도와 탐색 정책의 공동 최적화가 효과적임을 입증한다.