[论文解读] Riemannian Multi-Manifold Modeling

Xu Wang, Konstantinos Slavakis+1 more|arXiv (Cornell University)|Oct 1, 2014

Morphological variations and asymmetry参考文献 58被引用 21

一句话总结

本文提出了一种黎曼多流形聚类框架，将数据建模为黎曼流形中低维子流形上的点，通过局部稀疏编码、切空间方向和测地线信息，利用内在几何结构构建用于谱聚类的数据亲和矩阵。该方法在测地子流形假设下具备理论保证，并在合成数据和真实世界数据（包括动作识别和医学影像）上表现出优越性能，即使聚类之间存在交叠亦然。

ABSTRACT

This paper advocates a novel framework for segmenting a dataset in a Riemannian manifold $M$ into clusters lying around low-dimensional submanifolds of $M$. Important examples of $M$, for which the proposed clustering algorithm is computationally efficient, are the sphere, the set of positive definite matrices, and the Grassmannian. The clustering problem with these examples of $M$ is already useful for numerous application domains such as action identification in video sequences, dynamic texture clustering, brain fiber segmentation in medical imaging, and clustering of deformed images. The proposed clustering algorithm constructs a data-affinity matrix by thoroughly exploiting the intrinsic geometry and then applies spectral clustering. The intrinsic local geometry is encoded by local sparse coding and more importantly by directional information of local tangent spaces and geodesics. Theoretical guarantees are established for a simplified variant of the algorithm even when the clusters intersect. To avoid complication, these guarantees assume that the underlying submanifolds are geodesic. Extensive validation on synthetic and real data demonstrates the resiliency of the proposed method against deviations from the theoretical model as well as its superior performance over state-of-the-art techniques.

研究动机与目标

• 为解决现有多流形聚类方法受限于欧几里得或球面嵌入的局限性，将框架扩展至一般黎曼流形。
• 开发一种计算高效的聚类算法，利用格拉斯曼流形、球面以及对称正定矩阵等黎曼流形的内在几何特性。
• 在底层子流形为测地子流形的假设下，为聚类恢复提供理论保证，即使子流形存在交叠。
• 验证该方法对模型偏差的鲁棒性，并在真实和合成数据集上优于最先进技术的性能。

提出的方法

• 该方法通过编码黎曼流形上局部切空间和测地线的局部稀疏编码与方向信息，构建数据亲和矩阵。
• 利用黎曼几何将数据建模为嵌入在一般黎曼流形 $M$（如球面、格拉斯曼流形或正定矩阵）中的低维子流形。
• 该算法在基于内在几何特性（包括切空间对齐和测地线距离）推导出的亲和矩阵上应用谱聚类。
• 理论分析基于局部黎曼几何，包括指数映射和旋转算子的泰勒展开，以界定估计切空间与真实切空间之间的对齐误差。
• 该方法结合基于测地线距离和局部协方差结构的加权亲和性，确保对噪声和流形曲率的鲁棒性。
• 对算法的简化变体进行了理论分析，利用集中不等式和投影算子在切空间上的扰动理论，提供理论保证。

实验结果

研究问题

• RQ1 聚类算法能否有效恢复黎曼流形中位于相交或邻近子流形上的数据簇？
• RQ2 如何利用内在几何特性（如切空间方向和测地线路径）构建非欧几里得流形上谱聚类的鲁棒数据亲和矩阵？
• RQ3 当底层子流形为测地子流形时，即使存在模型偏差，能否为聚类恢复建立理论保证？
• RQ4 该方法在性能和鲁棒性方面相较于黎曼流形上的最先进聚类技术表现如何？

主要发现

• 所提算法在具有相交测地子流形的合成数据上，聚类性能优于最先进方法。
• 理论分析表明，估计的切空间与真实切空间对齐良好，误差以 $O(r)$ 为界，其中 $r$ 为局部邻域半径。
• 该方法对模型偏差（如非测地子流形和噪声）表现出鲁棒性，在真实世界应用中保持高聚类准确率。
• 在视频序列中的动作识别和脑纤维分割任务上的实证验证表明，性能显著优于现有技术。
• 该算法在复杂黎曼流形（包括格拉斯曼流形和对称正定矩阵）上成功实现聚类，具备高精确率和召回率。
• 为简化变体建立了理论保证，表明只要子流形为测地子流形，即使存在交叠，聚类恢复仍可实现。