[论文解读] Learning Order Forest for Qualitative-Attribute Data Clustering

Mingjie Zhao, Sen Feng+4 more|arXiv (Cornell University)|Mar 3, 2026

Advanced Clustering Algorithms Research被引用 0

一句话总结

COForest 学习用于定性属性值的最小生成树序森林，并联合优化距离结构与聚类，在12个真实数据集上相较于10个基线方法并通过显著性检验获得更优结果。

ABSTRACT

Clustering is a fundamental approach to understanding data patterns, wherein the intuitive Euclidean distance space is commonly adopted. However, this is not the case for implicit cluster distributions reflected by qualitative attribute values, e.g., the nominal values of attributes like symptoms, marital status, etc. This paper, therefore, discovered a tree-like distance structure to flexibly represent the local order relationship among intra-attribute qualitative values. That is, treating a value as the vertex of the tree allows to capture rich order relationships among the vertex value and the others. To obtain the trees in a clustering-friendly form, a joint learning mechanism is proposed to iteratively obtain more appropriate tree structures and clusters. It turns out that the latent distance space of the whole dataset can be well-represented by a forest consisting of the learned trees. Extensive experiments demonstrate that the joint learning adapts the forest to the clustering task to yield accurate results. Comparisons of 10 counterparts on 12 real benchmark datasets with significance tests verify the superiority of the proposed method.

研究动机与目标

• 为定性（分类）属性的聚类提供动机，因为显式的值距离往往不清晰。
• 提出一个聚类友好的距离学习框架，能够联合学习值图和聚类分配。
• 用最小生成树森林表示属性内的值关系，以灵活地捕捉局部序关系。
• 开发一个迭代优化过程，在更新聚类成员和重建序森林之间交替进行。
• 通过广泛实验和显著性检验展示鲁棒性与优越性。

提出的方法

• 构造一个序森林 M = {M1,...,Ml}，其中每个 Mr 是属性 ar 的 o_r 个值上面的最小生成树。
• 通过从聚类分布计算的带权边长，在每棵序树上定义聚类友好的迹距离（等式（4））。
• 将样本-聚类距离 Gamma(x_i, C_j; M) 计算为逐属性迹距离之和（等式（7））。
• 形成一个联合目标 L(Q,M)，对样本-聚类不相似性求和并通过交替更新 Q（聚类分配）和重建 M（序森林）来迭代最小化（等式（8））。
• 给定 M 的情况下，使用受 k-modes 启发的 Q 更新，随后从当前 Q 重建 M，确保通过迭代细化实现收敛（算法 1）。
• 给出迹距离和 Gamma 为度量的理论保证（定理1和定理2），并将时间复杂度分析为 O(nlk I E)（定理 3）。

实验结果

研究问题

• RQ1 学习得到的基于图的定性属性值表示能否超越固定拓扑结构提高聚类质量？
• RQ2 联合学习距离结构和聚类分配是否比单独学习任一组件获得更好性能？
• RQ3 基于最小生成树的序森林在捕获定性数据的局部值关系方面是否有效？
• RQ4 在真实数据集上，所提 COForest 框架的收敛行为与计算效率如何？
• RQ5 与最先进方法在多样化定性数据基准上的表现如何？

主要发现

• COForest 在12个真实基准数据集上相对于10个基线在 CA 和 ARI 指标上始终达到最佳性能。
• Friedman 检验及 Bonferroni-Dunn 事后分析显示 COForest 显著优于对照方法（p 值分别为 0.00020 和 0.00002）。
• 消融研究表明序森林与聚类的联合学习对性能至关重要；序森林方法和基于概率的加权都优于如线图或基于汉明距离的替代方案。
• 收敛性图显示目标函数 L 随着序森林重建而下降，该方法通常在 15 次迭代内收敛。
• COForest 在各数据集上表现出鲁棒性，序森林提供灵活、聚类友好的表示，即使在没有显式语义值序的情况下也有效。