[論文レビュー] Functional Factorial K-means Analysis

Michio Yamamoto, Yoshikazu Terada|arXiv (Cornell University)|Nov 3, 2013

Sensory Analysis and Statistical Methods参考文献 27被引用数 4

ひとこと要約

本稿では、多変量関数データの同時クラスタリングおよび次元削減手法として、関数的因子混合k-means（FFKM）分析を提案する。この手法は、交互最小二乗法を用いてクラスタ構造と部分空間表現の両方を最適化する。従来の直列分析や関数的主成分k-means（FPCK）の限界を克服し、低次元の関数的部分空間においてクラスタ割り当てと重み関数を同時に推定することで、既存の手法よりも解釈性が高く、より正確な結果を得られる。

ABSTRACT

A new procedure for simultaneously finding the optimal cluster structure of multivariate functional objects and finding the subspace to represent the cluster structure is presented. The method is based on the $k$-means criterion for projected functional objects on a subspace in which a cluster structure exists. An efficient alternating least-squares algorithm is described, and the proposed method is extended to a regularized method for smoothness of weight functions. To deal with the negative effect of the correlation of coefficient matrix of the basis function expansion in the proposed algorithm, a two-step approach to the proposed method is also described. Analyses of artificial and real data demonstrate that the proposed method gives correct and interpretable results compared with existing methods, the functional principal component $k$-means (FPCK) method and tandem clustering approach. It is also shown that the proposed method can be considered complementary to FPCK.

研究の動機と目的

• 多変量関数データの最適なクラスタ構造と低次元部分空間を同時に特定する手法の開発。
• 次元削減とクラスタリングを逐次的に行う直列分析の限界を克服すること。
• クラスタリングと部分空間推定の最適化が不十分であるFPCK分析の根本的欠陥を是正すること。
• FPCKの補完的代替手法を提供し、より解釈可能な重み関数とクラスタ構造を実現すること。
• 交互最小二乗法を用いた効率的で反復的なクラスタ割り当ておよび部分空間射影の推定を可能とすること。

提案手法

• クラスタ構造が存在する共通の低次元部分空間に射影された関数的対象に対してk-means基準を適用する。
• クラスタ割り当てと部分空間射影を同時に最適化するために、交互最小二乗法を用いる。
• 推定された重み関数の滑らかさを保証するため、正則化を組み込む。
• 基底関数係数行列の相関が及える悪影響を軽減するために、二段階アプローチを導入する。
• 主成分スコアから解釈可能な重み関数を回復するために、直交的プロクラウス回転を用いて直交変換行列を推定する。
• 推定された係数行列を用いて、最終的な重み関数を基底関数の線形結合として再構成する。

実験結果

リサーチクエスチョン

• RQ1 関数データにおけるクラスタリングと次元削減を同時に行うアプローチは、逐次的直列分析を上回る性能を発揮できるか？
• RQ2 提案手法は、関数的主成分k-means（FPCK）と比較して、クラスタ精度および解釈性において優れているか？
• RQ3 基底関数係数の相関構造はクラスタリング性能にどのような影響を及ぼすか？ また、その影響をどのように軽減できるか？
• RQ4 正則化は、部分空間における推定された重み関数の滑らかさと解釈性を向上させることができるか？
• RQ5 提案手法はFPCKと補完的関係にあり、意味のある部分空間構造を回復できるか？

主な発見

• 提案されたFFKM手法は、人工的および実データにおいて、直列分析およびFPCKよりもより正確で解釈性の高いクラスタ構造を生成した。
• この手法は、最適なクラスタ構造を効果的に表現する共通の低次元部分空間を効果的に特定し、逐次的手法の非最適性を回避した。
• 二段階アプローチは、相関のある基底関数係数の影響を効果的に低減し、数値的安定性と推定精度を向上させた。
• 重み関数の正則化は滑らかさを向上させ、より安定的で解釈可能な部分空間表現をもたらした。
• FPCKと補完的関係にあり、特に意味のある重み関数およびクラスタパターンの回復に優れた性能を示した。
• 実験的結果から、複雑なクラスタ構造や高次元関数データの状況において、FFKMはFPCKよりも優れたクラスタリング性能を達成したことが示された。