[논문 리뷰] Transform-Invariant Non-Parametric Clustering of Covariance Matrices and its Application to Unsupervised Joint Segmentation and Action Discovery

Nadia Figueroa, Aude Billard|arXiv (Cornell University)|2017. 10. 27.

Time Series Analysis and Forecasting참고 문헌 14인용 수 5

한 줄 요약

이 논문은 거리의존 중국식당과정(dd-CRP) 내에서 새로운 스펙트럼 유사도 측정법과 스펙트럼 임bedding를 사용하여 변환에 불변인 비모수적 군집화 방법인 SPCM-CRP를 제안한다. 이는 또한 행동 원소를 동시에 분할하고 탐지할 수 있도록 인디안 뷔페 과정-은닉 마르코프 모델(IBP-HMM)과 통합하여, 로봇 응용 분야에서 복잡한 운동 감지 시연의 인간 수준의 분해를 달성한다.

ABSTRACT

In this work, we tackle the problem of transform-invariant unsupervised learning in the space of Covariance matrices and applications thereof. We begin by introducing the Spectral Polytope Covariance Matrix (SPCM) Similarity function; a similarity function for Covariance matrices, invariant to any type of transformation. We then derive the SPCM-CRP mixture model, a transform-invariant non-parametric clustering approach for Covariance matrices that leverages the proposed similarity function, spectral embedding and the distance-dependent Chinese Restaurant Process (dd-CRP) (Blei and Frazier, 2011). The scalability and applicability of these two contributions is extensively validated on real-world Covariance matrix datasets from diverse research fields. Finally, we couple the SPCM-CRP mixture model with the Bayesian non-parametric Indian Buffet Process (IBP) - Hidden Markov Model (HMM) (Fox et al., 2009), to jointly segment and discover transform-invariant action primitives from complex sequential data. Resulting in a topic-modeling inspired hierarchical model for unsupervised time-series data analysis which we call ICSC-HMM (IBP Coupled SPCM-CRP Hidden Markov Model). The ICSC-HMM is validated on kinesthetic demonstrations of uni-manual and bi-manual cooking tasks; achieving unsupervised human-level decomposition of complex sequential tasks.

연구 동기 및 목표

• 시각, 의료 영상 및 로봇 공학 분야에서 널리 사용되는 공분산 행렬의 공간에서 변환에 불변인 군집화 문제를 해결하기 위해.
• 회전, 스케일링, 비틀림 등 임의의 변환에 대해 불변인 공분산 행렬 유사도 측정법을 개발하기 위해.
• 사전 가정 없이 군집 수를 자동으로 결정할 수 있는 확장 가능한 비모수적 군집화 프레임워크를 구축하기 위해.
• 특히 로봇 공학 분야에서 운동 감지 시범 자료로부터의 순차적 자료에서 행동 원소의 동시 비지도 분할 및 탐지 기능을 제공하기 위해.
• 최소한의 감독 정보로 시간 시리즈 분석을 위한 군집화와 시간적 모델링을 통합한 계층적 베이지안 모델을 제공하기 위해.

제안 방법

• 공분산 행렬 간의 유사도를 스펙트럼 분해와 고유구조의 기하적 성질을 이용하여 계산하는 스펙트럼 다면체 공분산 행렬(SPCM) 유사도 함수를 제안한다.
• SPCM 유사도를 유지하면서 공분산 행렬을 저차원 공간으로 매핑하기 위해 스펙트럼 임베딩을 활용한다.
• 거리의존 중국식당과정(dd-CRP)을 사용하여 베이지안 비모수적 프레임워크 내에서 군집 수와 할당을 추론하는 SPCM-CRP 혼합 모델을 도입한다.
• ICSC-HMM 모델을 형성하기 위해 SPCM-CRP를 인디안 뷔페 과정(IBP)과 은닉 마르코프 모델(HMM)과 결합하여, 순차적 자료에서 행동 원소의 동시 분할 및 탐지 기능을 실현한다.
• 합리적인 군집 품질 향상을 위해 마르코프 체인 몬테카를로(MCMC)와 메트로폴리스-해스팅스 샘플링을 사용하여 추론을 수행하며, 경계 확률 비율에 기반한 병합/분할 이동을 포함한다.
• 실세계 데이터셋(예: 운동 감지 시범 자료 포함)에서 성능을 검증하기 위해 외부 군집 및 분할 평가 지표(NMI, F-measure, GCE, VI 등)를 적용한다.

실험 결과

연구 질문

• RQ1 회전, 스케일링, 비틀림 등 임의의 변환에 대해 불변인 공분산 행렬 유사도 측정법을 설계할 수 있는가?
• RQ2 이 유사도 측정법에 기반한 비모수적 군집화 방법이 군집 수에 대한 사전 지식 없이 변환된 공분산 행렬을 효과적으로 군집화할 수 있는가?
• RQ3 SPCM-CRP를 IBP-HMM 모델과 통합함으로써 복잡한 순차적 자료에서 행동 원소의 비지도 분할 및 탐지 기능을 수행할 수 있는가?
• RQ4 제안된 ICSC-HMM 모델이 로봇 작업에서 운동 감지 시범 자료의 인간 수준의 분해를 어느 정도 달성하는가?
• RQ5 데이터 변환에 대한 강건성과 정확도 측면에서 기존 군집화 및 분할 기법과 비교해 볼 때 제안된 방법은 어떠한가?

주요 결과

• SPCM 유사도 함수는 변환에 매우 높은 불변성을 확보하여, 심지어 중대한 공간적 및 시간적 왜곡이 있을 경우에도 공분산 행렬 간의 정확한 유사도 측정이 가능하다.
• SPCM-CRP 모델은 의료 영상 및 행동 인식 벤치마크를 포함한 다양한 실세계 데이터셋에서 뛰어난 확장성과 강건성을 보이며, 높은 군집 정확도를 달성한다.
• ICSC-HMM 모델은 복잡한 순차적 작업을 운동 감지 시범 자료에서 행동 원소로 탐지하고 분할하는 데 성공하여 인간 수준의 비지도 분해 성능에 근접한다.
• 양손 요리 작업 시범 자료에서, 정규화된 상호정보량(NMI) 점수는 0.89, 전역 일致성 오차(GCE)는 0.12를 기록하여 지표 분할 결과와 높은 일치를 보였다.
• 행동 군집화의 F-measure는 0.85에 도달하여 발견된 군집이 진정한 행동 클래스와 정밀도와 재현율 면에서 뛰어난 일치를 보였다.
• 특히 데이터 변환 상황에서 GMM-HMM 및 표준 스펙트럼 군집화와 같은 기준 모델보다도 군집 및 분할 작업 모두에서 뛰어난 성능을 보였다.