[논문 리뷰] GAdaBoost: Accelerating Adaboost Feature Selection with Genetic Algorithms

Mai F. Tolba, Mohamed Moustafa|arXiv (Cornell University)|2016. 09. 20.

Face and Expression Recognition참고 문헌 12인용 수 5

한 줄 요약

이 논문은 유전 알고리즘(GA)을 통합하여 기존 Adaboost 기반 특징 선택의 속도를 향상시키는 하이브리드 방법인 GAdaBoost를 제안한다. 이는 특징 공간의 축소되고 변화하는 부분집합을 탐색함으로써, Viola-Jones 얼굴 검출기에서의 훈련 시간을 줄인다. FDDB 및 Caltech Web Faces 데이터셋에서 검출 정확도가 3–4% 감소하는 데 그치지만 훈련 시간을 최대 3.7배까지 단축시켜 실시간 객체 검출에 있어 뛰어난 속도-정확도 트레이드오프를 보여준다.

ABSTRACT

Boosted cascade of simple features, by Viola and Jones, is one of the most famous object detection frameworks. However, it suffers from a lengthy training process. This is due to the vast features space and the exhaustive search nature of Adaboost. In this paper we propose GAdaboost: a Genetic Algorithm to accelerate the training procedure through natural feature selection. Specifically, we propose to limit Adaboost search within a subset of the huge feature space, while evolving this subset following a Genetic Algorithm. Experiments demonstrate that our proposed GAdaboost is up to 3.7 times faster than Adaboost. We also demonstrate that the price of this speedup is a mere decrease (3%, 4%) in detection accuracy when tested on FDDB benchmark face detection set, and Caltech Web Faces respectively.

연구 동기 및 목표

• 기하학적으로 큰 특징 공간에서의 완전한 Adaboost 특징 탐색으로 인해 Viola-Jones 객체 검출기의 훈련 시간이 지나치게 길어지는 문제를 해결한다.
• 유전 알고리즘을 통해 동적으로 변화하는 특징 부분집합으로의 특징 탐색 범위를 제한함으로써 Adaboost의 계산 부담을 줄인다.
• 훈련 속도를 크게 향상시키면서도 높은 검출 정확도를 유지함으로써 실시간 객체 검출기의 빠른 구현을 가능하게 한다.
• 표준 기준 데이터셋(FDDB 및 Caltech Web Faces)에서 훈련 속도와 검출 성능 간의 트레이드오프를 평가한다.

제안 방법

• 기존의 전체 특징 공간에서의 브루트 포스 검색을 대체하기 위해, 특징 부분집합의 집단을 진화시키는 유전 알고리즘(GA)을 통합한다.
• Adaboost의 훈련 데이터에 대한 분류 성능을 적합도로 정의하여, GA를 통해 유망한 특징 부분집합을 반복적으로 선택, 교차 및 돌연변이화한다.
• 현재 GA에 의해 생성된 특징 부분집합에만 Adaboost를 적용함으로써, 반복마다의 특징 평가 수를 크게 감소시킨다.
• 세대를 거쳐 특징 부분집합의 집단을 진화시키며, 검출 정확도 향상과 오차 감소를 유도하는 선택 압력을 가한다.
• 집단 크기와 종료 기준을 조절하여 탐색 공간 크기를 제어함으로써 탐색과 수렴 간의 균형을 이룬다.
• GA가 식별한 최적의 특징 부분집합을 기반으로 최종 카스케이드 분류기를 훈련한 후, 표준 Adaboost 부스팅을 적용한다.

실험 결과

연구 질문

• RQ1 유전 알고리즘이 검출 성능 저하 없이 Adaboost 특징 선택을 위한 탐색 공간을 효과적으로 줄일 수 있는가?
• RQ2 기본 Adaboost 대비 GAdaBoost는 얼마나 더 빠르게 훈련할 수 있으며, 정확도는 유사하게 유지되는가?
• RQ3 GA 반복 수를 다양하게 조절했을 때(예: 20회 vs. 50회), 최종 검출 정확도와 훈련 속도에 어떤 영향을 미치는가?
• RQ4 GAdaBoost의 성능은 FDDB 및 Caltech Web Faces와 같은 표준 기준 데이터셋에서 기준 Adaboost와 비교해 어떻게 되는가?
• RQ5 유전 알고리즘의 병렬 처리 가능성을 향후 구현에서 활용해 훈련 속도를 추가로 가속화할 수 있는가?

주요 결과

• GAdaBoost는 기본 Adaboost 대비 최대 3.7배 빠른 훈련 속도를 기록했으며, 20회 및 50회 반복 시 각각 기준 훈련 시간의 73.2%와 55.3%를 차지했다.
• FDDB 데이터셋에서 50회 반복 GAdaBoost는 1000개의 가짜 양성 결과에서 진짜 양성률 65%를 기록했고, 기준은 67%였으며, 이는 2%의 성능 저하를 의미한다.
• Caltech Web Faces 데이터셋에서 50회 반복 GAdaBoost는 1000개의 가짜 양성 결과에서 진짜 양성률 48%를 기록했고, 기준은 51%였으며, 이는 3%의 정확도 감소를 의미한다.
• 50회 반복 GAdaBoost 버전은 20회 반복 버전보다 일관되게 뛰어난 성능을 보였으며, 특히 낮은 가짜 양성 결과 임계값에서 더 나은 수렴 성능을 보였다.
• 최적의 경우 GAdaBoost는 기준과 거의 동일한 검출 정확도를 달성했으며, 특히 높은 가짜 양성 결과 임계값에서 강력한 내구성을 보였다.
• 최소한의 성능 저하(3–4%)에도 불구하고 훈련 시간이 크게 감소함에 따라 뛰어난 속도-정확도 트레이드오프를 보여주었다.