[논문 리뷰] Relaxed Multiple-Instance SVM with Application to Object Discovery

Xinggang Wang, Zhuotun Zhu외 2명|arXiv (Cornell University)|2015. 10. 05.

Image Retrieval and Classification Techniques참고 문헌 30인용 수 15

한 줄 요약

이 논문은 Relaxed Multiple-Instance SVM (RMI-SVM)를 제안하며, 이는 기존의 이산적인 인스턴스 레이블을 연속형 변수로 변환하고 Noisy-OR 모델을 통해 MIL 제약 조건을 강제함으로써, 확률적 경사 하강법을 사용해 백과 인스턴스 레이블을 함께 최적화할 수 있는 새로운 볼록 최적화 프레임워크이다. 이 방법은 Pascal VOC 2007에서 약 5배 빠른 훈련 속도를 기록하며, 기존의 MIL 방법들과 기존의 객체 탐지 접근 방식보다 정확도와 효율성 면에서 최고 성능을 달성한다.

ABSTRACT

Multiple-instance learning (MIL) has served as an important tool for a wide range of vision applications, for instance, image classification, object detection, and visual tracking. In this paper, we propose a novel method to solve the classical MIL problem, named relaxed multiple-instance SVM (RMI-SVM). We treat the positiveness of instance as a continuous variable, use Noisy-OR model to enforce the MIL constraints, and jointly optimize the bag label and instance label in a unified framework. The optimization problem can be efficiently solved using stochastic gradient decent. The extensive experiments demonstrate that RMI-SVM consistently achieves superior performance on various benchmarks for MIL. Moreover, we simply applied RMI-SVM to a challenging vision task, common object discovery. The state-of-the-art results of object discovery on Pascal VOC datasets further confirm the advantages of the proposed method.

연구 동기 및 목표

• 기존의 MIL 방법이 인스턴스 선택과 모델 학습을 별개의 반복적 과정으로 다루는 데서 비롯되는 한계를 해결한다.
• 기존의 MIL 알고리즘에서 사용하는 EM 방식 최적화의 비효율성과 불안정성을 극복한다.
• 통합적이고 미분 가능한 프레임워크 내에서 백 수준 및 인스턴스 수준의 레이블을 함께 최적화할 수 있도록 한다.
• 이미지 수준의 레이블만을 사용하여 스케일링 가능하고 강건한 약한 감독 기반 객체 탐지 방법을 개발한다.
• 기존 방법들과 비교해 훨씬 빠른 훈련 시간을 기록하면서도 객체 탐지 성능을 최고 수준으로 달성한다.

제안 방법

• MIL에서의 이산적 인스턴스 레이블 제약 조건을 연속형 변수로 이완하여 조합 최적화 문제를 볼록 최적화 문제로 변환한다.
• MIL 제약 조건을 Noisy-OR 표현식을 사용해 모델링하여, 적어도 하나의 인스턴스가 양성일 경우에만 양성 백으로 간주하도록 한다.
• 선형 SVM 분류기를 사용하고 오분류를 방지하기 위한 허용 오차 항을 포함한 목적 함수를 설정하여 백 레이블과 인스턴스 레이블을 함께 최적화한다.
• 각 반복에서 한 개의 백만을 처리하는 확률적 경사 하강법(SGD)을 사용해 최적화 문제를 효율적으로 해결함으로써 계산 비용을 감소시킨다.
• 객체 탐지 파이프라인에서 딥 컨volution 신경망(DCNN) 특징을 활용해 객체 제안을 하고, Edgebox를 사용해 후보 영역을 생성한다.
• 랜덤 초기화에서 시작해 반복적으로 RMI-SVM 프레임워크를 적용하여 객체 위치 예측을 개선하고, 이미지 수준의 레이블을 약한 감독 신호로 활용한다.

실험 결과

연구 질문

• RQ1 전통적인 EM 방식의 MIL 방법과 비교해, 이완형 볼록 최적화 형식이 최적화 효율성과 성능 면에서 향상되는가?
• RQ2 SGD를 통한 인스턴스와 백 레이블의 동시 최적화가 기존의 별도의 인스턴스 선택 및 모델 학습 과정과 비교해 어떤가?
• RQ3 RMI-SVM이 Pascal VOC 2007과 같은 약한 감독 기반 벤치마크에서 객체 탐지 성능을 얼마나 향상시킬 수 있는가?
• RQ4 Noisy-OR 모델이 배경 잡음과 오분류에 강건성을 유지하면서도 효과적으로 MIL 제약 조건을 강제하는가?
• RQ5 RMI-SVM의 훈련 속도와 수렴 특성은 기존의 miSVM 및 기타 EM 기반 MIL 알고리즘과 비교해 어떻게 다른가?

주요 결과

• RMI-SVM은 Pascal VOC 2006-all에서 CorLoc 점수 53%를 기록했으며, 이는 miSVM의 30%보다 뚜렷이 높은 성능이다.
• Pascal VOC 2007-all에서 RMI-SVM의 훈련 시간은 854초로, miSVM의 4300초보다 약 5배 빠르다.
• RMI-SVM은 초기화에 대해 뛰어난 강건성과 더불어, 제안 수가 적은 경우에도 우수한 일반화 성능을 보였다.
• Noisy-OR 모델은 오분류를 효과적으로 억제하여, RMI-SVM이 배경 윈도우와 진짜 객체 제안을 더 잘 구분할 수 있도록 한다.
• Edgebox만을 사용할 경우와 비교해 RMI-SVM은 특히 100개 이하의 제안 수에서 효과적인 약한 감독 신호 학습 덕분에 검출 성능을 향상시켰다.
• 이 방법은 객체 탐지 외에도 시각적 추적, 이미지 분류, 부분 기반 객체 검출 등 다양한 분야로 일반화 가능성이 있음을 보여준다.