[논문 리뷰] Functional Factorial K-means Analysis

Michio Yamamoto, Yoshikazu Terada|arXiv (Cornell University)|2013. 11. 03.

Sensory Analysis and Statistical Methods참고 문헌 27인용 수 4

한 줄 요약

이 논문은 다변량 기능 데이터에 대한 동시에 군집화와 차원 감소를 수행하는 Functional Factorial K-means (FFKM) 분석을 제안한다. 이 방법은 교차 최소제곱 알고리즘을 통해 군집 구조와 부분공간 표현을 동시에 최적화하며, 기존의 순차적 분석과 기능 주성분 K-means (FPCK)의 한계를 극복한다. FFKM은 낮은 차원의 기능 부분공간에서 군집 할당과 가중치 함수를 함께 추정함으로써 기존 방법보다 더 해석 가능하고 정확한 결과를 도출한다.

ABSTRACT

A new procedure for simultaneously finding the optimal cluster structure of multivariate functional objects and finding the subspace to represent the cluster structure is presented. The method is based on the $k$-means criterion for projected functional objects on a subspace in which a cluster structure exists. An efficient alternating least-squares algorithm is described, and the proposed method is extended to a regularized method for smoothness of weight functions. To deal with the negative effect of the correlation of coefficient matrix of the basis function expansion in the proposed algorithm, a two-step approach to the proposed method is also described. Analyses of artificial and real data demonstrate that the proposed method gives correct and interpretable results compared with existing methods, the functional principal component $k$-means (FPCK) method and tandem clustering approach. It is also shown that the proposed method can be considered complementary to FPCK.

연구 동기 및 목표

• 다변량 기능 데이터에 대해 최적의 군집 구조와 저차원 부분공간을 동시에 식별하는 방법을 개발한다.
• 차원 감소와 군집화를 순차적으로 수행하는 순차적 분석의 한계를 극복한다. 이는 최적화되지 않은 결과를 초래한다.
• FPCK 분석의 내재된 결함을 해결한다. 이는 손실 함수가 군집화와 부분공간 추정을 최적으로 일치시키지 못하기 때문이다.
• 더 해석 가능한 가중치 함수와 군집 구조를 제공하는 FPCK의 보완적 대안을 제공한다.
• 교차 최소제곱 알고리즘을 사용해 군집 할당과 부분공간 투영을 효율적이고 반복적으로 추정할 수 있도록 한다.

제안 방법

• 군집 구조가 존재하는 공통의 저차원 부분공간에 투영된 기능적 객체에 k-means 기준을 적용한다.
• 군집 할당과 부분공간 투영을 동시에 최적화하기 위해 교차 최소제곱 알고리즘을 사용한다.
• 기저 전개에서 추정된 가중치 함수의 부드러움을 보장하기 위해 정규화를 통합한다.
• 기저 함수 계수 행렬의 상관관계가 미치는 부정적 영향을 줄이기 위해 이중 단계 접근법을 도입한다.
• 주성분 점수에서 이해할 수 있는 가중치 함수를 복원하기 위해 직교 Procrustes 회전을 통해 직교 변환 행렬을 추정한다.
• 최종적으로 추정된 계수 행렬을 사용해 선형 조합을 통해 가중치 함수를 재구성한다.

실험 결과

연구 질문

• RQ1 기능 데이터에서 군집화와 차원 감소를 동시에 수행하는 접근법이 순차적 분석보다 성능이 뛰어나게 되는가?
• RQ2 제안된 방법은 기능 주성분 K-means (FPCK)와 비교해 군집 정확도와 해석 가능성에서 어떻게 다른가?
• RQ3 기저 함수 계수의 상관 구조가 군집 성능에 어떤 영향을 미치며, 이를 어떻게 완화할 수 있는가?
• RQ4 정규화가 부분공간 내에서 추정된 가중치 함수의 부드러움과 해석 가능성에 향상 효과를 줄 수 있는가?
• RQ5 제안된 방법은 FPCK와 보완적인 관계를 가지는가? 특히 의미 있는 부분공간 구조를 회복하는 데서 그렇다면

주요 결과

• 제안된 FFKM 방법은 인위적 데이터와 실제 데이터에서 모두 순차적 분석 및 FPCK보다 더 정확하고 해석 가능한 군집 구조를 생성한다.
• 이 방법은 군집 구조를 최적으로 표현하는 공통의 저차원 부분공간을 성공적으로 식별하여 순차적 접근의 비최적성 문제를 피한다.
• 이중 단계 접근법은 상관관계가 있는 기저 계수의 영향을 효과적으로 감소시켜 수치적 안정성과 추정 정확도를 향상시킨다.
• 가중치 함수의 정규화는 부드러움을 향상시켜 더 안정적이고 해석 가능한 부분공간 표현을 이끈다.
• 이 방법은 특히 의미 있는 가중치 함수와 군집 패턴을 회복하는 데서 FPCK와 보완적인 관계를 보인다.
• 실증 결과는 FFKM이 복잡한 군집 구조와 고차원 기능 데이터를 포함한 시나리오에서 FPCK보다 더 뛰어난 군집 성능을 달성함을 보여준다.