[论文解读] Factorial PD-Clustering

Cristina Tortora, Francesco Palumbo+1 more|arXiv (Cornell University)|May 6, 2011

Advanced Clustering Algorithms Research参考文献 6被引用 1

一句话总结

阶乘PD-聚类将Tucker 3分解与概率距离（PD）聚类相结合，以在高维数据上同时实现降维和聚类。通过在变换后的数据上迭代应用Tucker 3分解和PD-聚类，该方法提升了大规模数据集的计算效率、稳定性和鲁棒性，并通过共享的优化准则实现收敛。

ABSTRACT

Factorial clustering methods have been developed in recent years thanks to the improving of computational power. These methods perform a linear transformation of data and a clustering on transformed data optimizing a common criterion. Factorial PD-clustering is based on Probabilistic Distance clustering (PD-clustering). PD-clustering is an iterative, distribution free, probabilistic, clustering method. Factorial PD-clustering make a linear transformation of original variables into a reduced number of orthogonal ones using a common criterion with PD-Clustering. It is demonstrated that Tucker 3 decomposition allows to obtain this transformation. Factorial PD-clustering makes alternatively a Tucker 3 decomposition and a PD-clustering on transformed data until convergence. This method could significantly improve the algorithm performance and allows to work with large dataset, to improve the stability and the robustness of the method.

研究动机与目标

• 解决大规模高维数据集聚类的挑战，提升计算效率和鲁棒性。
• 通过共同的优化准则，将降维与聚类整合到统一框架中。
• 通过利用Tucker 3分解的正交变换，提升PD-聚类的稳定性和性能。
• 通过迭代优化数据变换和聚类分配，实现在大规模数据集上的有效聚类。

提出的方法

• 该方法对原始变量应用Tucker 3分解，将其转换为一组正交分量。
• 在数据的Tucker 3分解与变换后分量的PD-聚类之间交替进行。
• 该算法在两个步骤中优化共享准则，确保降维与聚类目标的一致性。
• 迭代过程持续进行，直到分解和聚类两部分均达到收敛。
• 采用PD-聚类作为聚类引擎，因其具有无分布假设、概率性和迭代性特征。
• 该方法利用Tucker 3分解的数学结构，确保数据的正交、低秩表示。

实验结果

研究问题

• RQ1 Tucker 3分解能否与PD-聚类有效结合，以提升高维数据上的聚类性能？
• RQ2 在降维与聚类之间进行迭代交替，如何影响收敛性和稳定性？
• RQ3 与标准聚类方法相比，阶乘PD-聚类在大规模数据集上能多大程度提升计算效率？
• RQ4 正交变换的整合是否能提升聚类结果的鲁棒性？

主要发现

• 阶乘PD-聚类通过迭代优化Tucker 3分解和PD-聚类两步实现收敛。
• 该方法通过降低计算复杂度，显著提升了大规模数据集上的算法性能。
• Tucker 3分解的整合增强了聚类结果的稳定性和鲁棒性。
• 共享的优化准则确保了降维与聚类目标之间的一致性。