[논문 리뷰] Extrinsic Methods for Coding and Dictionary Learning on Grassmann Manifolds

Mehrtash Harandi, Richard Hartley외 3명|arXiv (Cornell University)|2014. 01. 31.

Face and Expression Recognition참고 문헌 69인용 수 4

한 줄 요약

이 논문은 부분공간을 등장형 사상에 의해 대칭 행렬에 통합함으로써 그라스만 다양체 위에서 희소 코딩과 사전 학습을 위한 외재적 방법을 제안한다. 이는 효율적인 계산을 가능하게 하며, 호중(mean)과 커널화된 힐버트 공간 통합을 활용하여 영상 및 영상 세트 작업에서 최신 기술 수준의 분류 정확도를 달성한다.

ABSTRACT

Sparsity-based representations have recently led to notable results in various visual recognition tasks. In a separate line of research, Riemannian manifolds have been shown useful for dealing with features and models that do not lie in Euclidean spaces. With the aim of building a bridge between the two realms, we address the problem of sparse coding and dictionary learning over the space of linear subspaces, which form Riemannian structures known as Grassmann manifolds. To this end, we propose to embed Grassmann manifolds into the space of symmetric matrices by an isometric mapping. This in turn enables us to extend two sparse coding schemes to Grassmann manifolds. Furthermore, we propose closed-form solutions for learning a Grassmann dictionary, atom by atom. Lastly, to handle non-linearity in data, we extend the proposed Grassmann sparse coding and dictionary learning algorithms through embedding into Hilbert spaces. Experiments on several classification tasks (gender recognition, gesture classification, scene analysis, face recognition, action recognition and dynamic texture classification) show that the proposed approaches achieve considerable improvements in discrimination accuracy, in comparison to state-of-the-art methods such as kernelized Affine Hull Method and graph-embedding Grassmann discriminant analysis.

연구 동기 및 목표

• 이미지 세트나 영상 시퀀스와 같은 데이터를 부분공간으로 표현하는 그라스만 다양체 상에서의 희소 코딩 및 사전 학습 문제를 다루기 위해.
• 내재적 리만 기반 방법의 계산 부담을 줄이기 위해 대칭 행렬에 대한 외재적 통합을 사용하기 위해.
• 그라스만 다양체 상에서 원자별로 사전을 학습하는 효율적인 알고리즘 개발을 위해.
• 커널 유도 힐버트 공간 통합을 통해 비선형 데이터를 처리할 수 있도록 프레임워크를 확장하기 위해.
• 기존 최신 기술 수준의 방법들과 비교해 시각 인식 작업에서 더 높은 분류 정확도를 달성하기 위해.

제안 방법

• 자기 거리가 유지되는 등장형 사상에 의해 그라스만 다양체를 대칭 행렬 공간에 통합함으로써 프로베니우스 노름을 유지하고 유클리드 스타일의 연산을 가능하게 한다.
• 통합된 공간에서 데이터 부분공간과 사전 원자들의 선형 조합 간의 프로베니우스 노름을 최소화함으로써 그라스만 다양체 상의 희소 코딩을 정식화한다.
• 호중(mean)—합된 통합 행렬의 사영 기반 폐쇄형 해—을 다수의 부분공간의 평균으로 사용하여 계산 효율성을 보장한다.
• 통합 표현을 사용하여 희소 코딩 목표를 반복적으로 최적화함으로써 원자별로 그라스만 사전을 학습한다.
• 커널 함수를 통해 통합된 행렬을 고차원 힐버트 공간으로 매핑함으로써 비선형 데이터를 처리할 수 있도록 프레임워크를 확장한다.
• 등장형 성질 덕분에 호중 평균과 희소 코딩 목표가 통합된 공간에서 여전히 계산 가능하다는 사실을 활용한다.

실험 결과

연구 질문

• RQ1 등장형 사상에 의한 대칭 행렬에의 외재적 통합을 통해 그라스만 다양체 상의 희소 코딩을 효율적으로 수행할 수 있는가?
• RQ2 어떻게 그라스만 사전을 계산 비용이 적은 원자별로 학습할 수 있는가?
• RQ3 커널 함수를 통한 힐버트 공간에의 데이터 통합이 비선형 데이터에서 성능 향상에 기여하는가?
• RQ4 정확도와 계산 비용 측면에서 내재적 리만 기반 희소 코딩과 비교해 본다면 제안된 방법은 어떻게 성능을 내는가?
• RQ5 제안된 프레임워크는 이미지 세트와 영상 시퀀스를 포함한 시각 인식 작업에서 최신 기술 수준의 성능을 달성할 수 있는가?

주요 결과

• 제안된 외재적 방법은 성별 인식, 제스처 분류, 장면 분석, 얼굴 인식, 동작 인식, 동적 텍스처 분류 등에서 분류 정확도 향상에 상당한 기여를 한다.
• 호중은 그라스만 다양체 상의 반복적 리만 평균에 대한 폐쇄형, 계산 효율적인 대안을 제공한다.
• 로그라미즘 맵이 존재하지 않기 때문에 원자별 사전 학습 알고리즘이 내재적 방법보다 빠르게 수렴하고 더 잘 스케일링된다.
• 힐버트 공간에의 커널화된 통합은 비선형 데이터에서 성능을 향상시키며, 커널화된 애파인 홀 방법 및 그래프 기반 그라스만 판별 분석과 같은 기존 방법들을 능가한다.
• 등장형 통합은 리만 기하학적 구조를 유지하여 최소한의 근사 오차로 정확한 희소 코딩을 가능하게 한다.
• 실증 결과는 여섯 개의 벤치마크 시각 인식 작업 전반에서 최신 기술 수준의 방법들보다 일관된 성능 향상을 보여준다.