[논문 리뷰] Kernel Principal Component Analysis and its Applications in Face Recognition and Active Shape Models

Quan Wang|arXiv (Cornell University)|2012. 07. 15.

Face and Expression Recognition참고 문헌 11인용 수 132

한 줄 요약

이 논문은 비선형 데이터 구조를 포착하기 위해 가우시안 커널 PCA를 활용한 커널 주성분 분석(KPCA)과 사전 영상 복원을 제안하여 더 나은 얼굴 인식과 활성형 모양 모델(ASMs)을 구현한다. KPCA가 분류 오차율을 감소시키고 표준 PCA보다 더 표현력 있는 형태 모델을 가능하게 하며, 특히 미세표정 분석에서 뛰어난 성능을 보임을 입증한다.

ABSTRACT

Principal component analysis (PCA) is a popular tool for linear dimensionality reduction and feature extraction. Kernel PCA is the nonlinear form of PCA, which better exploits the complicated spatial structure of high-dimensional features. In this paper, we first review the basic ideas of PCA and kernel PCA. Then we focus on the reconstruction of pre-images for kernel PCA. We also give an introduction on how PCA is used in active shape models (ASMs), and discuss how kernel PCA can be applied to improve traditional ASMs. Then we show some experimental results to compare the performance of kernel PCA and standard PCA for classification problems. We also implement the kernel PCA-based ASMs, and use it to construct human face models.

연구 동기 및 목표

• 고차원 데이터에서 더 나은 특징 추출을 위해 기존 PCA를 커널 방법을 활용한 비선형 차원 축소로 확장하는 것.
• 커널 PCA에서 사전 영상 복원의 과제를 해결하여 압축된 특징을 원래 공간으로 매핑할 수 있도록 하는 것.
• 비선형 형태 변화를 더 잘 표현할 수 있도록 커널 PCA를 통합하여 활성형 모양 모델(ASMs)의 표현력을 향상시키는 것.
• 얼굴 인식 및 형태 모델링 과제에서 커널 PCA와 표준 PCA의 성능을 평가하는 것.
• 지역 이웃 구조의 포착과 클래스 간 분리 간 균형을 이루는 가우시안 커널 PCA의 파라미터 선택 전략을 제안하는 것.

제안 방법

• 비선형 구조가 선형으로 분리 가능한 더 높은 차원의 특징 공간으로 데이터를 매핑하기 위해 가우시안 커널 함수를 사용한 커널 PCA를 활용한다.
• 비선형 변환을 명시적으로 계산하지 않고도 특징 공간 내 주성분을 추출하기 위해 커널 행렬의 고유분해를 적용한다.
• 반복 최적화 방법(예: 경사 하강법)을 사용하여 커널에 통합된 특징에서 사전 영상 복원을 수행하여 원래 입력 공간에서의 해석 가능성을 확보한다.
• 커널 대역폭 σ를 설정하기 위해 최근접 이웃 거리의 평균을 사용하는 파라미터 선택 전략을 도입하여 적절한 국소 민감도를 확보한다.
• 표준 PCA를 커널 PCA로 대체하여 점 분포 모델 내에서 활성형 모양 모델에 커널 PCA를 통합함으로써 복잡한 형태 변화를 모델링한다.
• 복원된 사전 영상와 학습된 변형 패턴을 사용하여 미세표정과 같은 미세한 움직임을 포착할 수 있는 더 표현력 있는 얼굴 형태 모델을 구축한다.

실험 결과

연구 질문

• RQ1 커널 PCA는 분류 과제에서 얼굴 영상 데이터의 복잡한 비선형 구조를 표준 PCA보다 더 잘 포착할 수 있는가?
• RQ2 커널 PCA에서 사전 영상 복원을 효과적으로 수행하여 축소된 특징의 의미 있는 해석을 가능하게 할 수 있는가?
• RQ3 커널 PCA는 얼굴 형태 변화 모델링에서 활성형 모양 모델의 표현력을 어느 정도 향상시키는가?
• RQ4 가우시안 커널 PCA에서 커널 대역폭 σ를 위한 강건하고 데이터 기반의 선택 방법은 무엇인가?
• RQ5 커널 PCA 기반 ASMs는 표준 ASMs보다 미세표정을 더 효과적으로 탐지하고 모델링할 수 있는가?

주요 결과

• 가우시안 커널 PCA는 얼굴 영상 분류 과제에서 표준 PCA보다 유의미하게 낮은 테스트 오차율을 기록하여, 미관측 데이터로의 일반화 능력이 뛰어남을 시사한다.
• 첫 두 개의 커널 PCA 특징는 표준 PCA가 명확히 구분하지 못한 머리 방향, 놀라움에서 진정까지의 미세표정과 같은 의미 있는 얼굴 변화를 포착함을 확인함.
• 훈련 데이터 평균으로 초기화된 반복 최적화 방법을 사용하여 커널 PCA에서의 사전 영상 복원을 성공적으로 구현함으로써 원래 공간에서 특징의 의미 있는 시각화가 가능해짐.
• 제안된 파라미터 선택 전략(σ = 5 × 최근접 이웃 거리의 평균)은 커널이 국소 이웃 구조를 포착하면서도 클래스 간 거리에 대한 과적합을 방지함을 보장함.
• 커널 PCA 기반 ASMs는 특히 미세표정과 같은 미세한 얼굴 운동에 대해 비선형 형태 변형을 더 잘 모델링할 수 있는 능력을 보임.
• 커널 PCA를 ASMs에 통합함으로써 더 다양한 실감 나는 얼굴 형태 예시를 생성할 수 있었으며, 이는 표준 및 커널 기반 ASMs를 융합한 하이브리드 모델이 미세표정 인식에 활용될 잠재력을 시사한다.