[论文解读] Kernel-estimated Nonparametric Overlap-Based Syncytial Clustering

Israel Almodóvar‐Rivera, Ranjan Maitra|arXiv (Cornell University)|May 24, 2018

Bayesian Methods and Mixture Models参考文献 91被引用 8

一句话总结

本文提出 KNOB-SynC，一种无需分布假设、完全自动化的同步聚类方法，通过核密度估计的非参数重叠度合并 k-means 等标准算法生成的聚类。该方法在检测包括伽马射线暴和 fMRI 脑激活在内的多种数据集中的规则与非规则聚类结构方面优于现有方法，且无需人工调参，具有更高的可重复性与鲁棒性。

ABSTRACT

Commonly-used clustering algorithms usually find ellipsoidal, spherical or other regular-structured clusters, but are more challenged when the underlying groups lack formal structure or definition. Syncytial clustering is the name that we introduce for methods that merge groups obtained from standard clustering algorithms in order to reveal complex group structure in the data. Here, we develop a distribution-free fully-automated syncytial clustering algorithm that can be used with $k$-means and other algorithms. Our approach estimates the cumulative distribution function of the normed residuals from an appropriately fit $k$-groups model and calculates the estimated nonparametric overlap between each pair of clusters. Groups with high pairwise overlap are merged as long as the estimated generalized overlap decreases. Our methodology is always a top performer in identifying groups with regular and irregular structures in several datasets and can be applied to datasets with scatter or incomplete records. The approach is also used to identify the distinct kinds of gamma ray bursts in the Burst and Transient Source Experiment 4Br catalog and the distinct kinds of activation in a functional Magnetic Resonance Imaging study.

研究动机与目标

• 解决标准聚类算法在检测非椭球形或不规则形状聚类方面的局限性。
• 开发一种完全自动化、无参数的聚类合并方法，基于数据驱动的重叠度估计。
• 提升在 fMRI 和天文物体星表等复杂或噪声数据集中的聚类检测可重复性与鲁棒性。
• 扩展 k-means 及类似算法在具有离散数据或记录不完整数据集中的适用性。
• 提供一种通用的同步聚类框架，兼容多种标准聚类算法的输出结果。

提出的方法

• 使用非对称 RIG 核密度估计方法，估计 k-组模型的归一化残差的累积分布函数（CDF）。
• 利用文献 [38] 提出的重叠度量，通过核方法估计聚类间的成对非参数重叠度。
• 只要广义重叠度下降，就持续合并重叠度高的聚类对，以确保结构一致性。
• 采用插件带宽选择器，通过最小化 MISE 优化核密度估计。
• 将该方法应用于 k-means 及其他聚类算法的结果，实现无需重新聚类的同步聚类。
• 在 R 包 SynClustR 中实现该算法，提供 KNOBSynC 和 kmH 两个函数，分别用于 KNOB-SynC 和对比方法。

实验结果

研究问题

• RQ1 一种非参数、数据驱动的方法能否有效合并标准算法生成的聚类，以揭示复杂且非规则的聚类结构？
• RQ2 基于核密度估计的重叠度与传统重叠度量相比，在识别真实潜在聚类结构方面表现如何？
• RQ3 KNOB-SynC 在多个 fMRI 数据重复中，对脑激活检测的可重复性提升程度如何？
• RQ4 在未预先知晓聚类数量的情况下，KNOB-SynC 能否在 BATSE 4Br 星表中检测出伽马射线暴的五种不同类型？
• RQ5 该方法在维度、噪声和记录不完整程度各异的数据集中是否保持鲁棒性与高性能？

主要发现

• 在五组 fMRI 重复数据中，KNOB-SynC 的平均 Jaccard 指数达到 0.238，显著优于 AR-FAST 的 0.102，表明其在激活检测中具有更优的可重复性。
• 在 fMRI 研究中，KNOB-SynC 成功检测到左侧 M1、同侧前 M1 及对侧前 SMA/SMA 的激活，且各重复间结果一致。
• 该方法成功在 BATSE 4Br 星表中识别出五类不同的伽马射线暴，证实其在天体物理数据分析中的实用性。
• KNOB-SynC 在具有不规则结构、离散数据和记录不完整数据集中均保持高性能，展现出良好的泛化能力。
• 该算法在无需用户指定参数的情况下，对多种数据集表现出鲁棒性，且在聚类结构检测方面优于多种基准方法。
• 基于核密度的 CDF 估计器实现了可靠的非参数重叠度估计，构成该方法稳定性和准确性的核心。