[论文解读] Kernel Methods on the Riemannian Manifold of Symmetric Positive Definite Matrices

Sadeep Jayasumana, Richard Hartley+3 more|arXiv (Cornell University)|Dec 12, 2014

Medical Image Segmentation Techniques被引用 4

一句话总结

本文通过利用黎曼几何，特别是基于对称正定（SPD）流形上各种度量的测地线距离，提出了一类可证明为正定的核函数族，用于对称正定（SPD）矩阵。通过这些核函数将SPD矩阵嵌入再生核希尔伯特空间（RKHS），作者使欧氏核方法（如SVM和核主成分分析）可直接应用于流形，相较于切空间近似和标准欧氏核方法，在行人检测、物体分类、纹理分析和医学图像分割任务中实现了更优性能。

ABSTRACT

Symmetric Positive Definite (SPD) matrices have become popular to encode image information. Accounting for the geometry of the Riemannian manifold of SPD matrices has proven key to the success of many algorithms. However, most existing methods only approximate the true shape of the manifold locally by its tangent plane. In this paper, inspired by kernel methods, we propose to map SPD matrices to a high dimensional Hilbert space where Euclidean geometry applies. To encode the geometry of the manifold in the mapping, we introduce a family of provably positive definite kernels on the Riemannian manifold of SPD matrices. These kernels are derived from the Gaussian ker- nel, but exploit different metrics on the manifold. This lets us extend kernel-based algorithms developed for Euclidean spaces, such as SVM and kernel PCA, to the Riemannian manifold of SPD matrices. We demonstrate the benefits of our approach on the problems of pedestrian detection, ob- ject categorization, texture analysis, 2D motion segmentation and Diffusion Tensor Imaging (DTI) segmentation.

研究动机与目标

• 解决现有基于流形的算法依赖于局部切空间近似所带来的局限性，此类方法会扭曲真实的黎曼几何并带来较高的计算成本。
• 为在非欧几里得流形（特别是SPD矩阵的黎曼流形）上构建正定核函数，建立一个理论基础框架。
• 通过使用几何感知核函数，将SPD矩阵数据嵌入高维希尔伯特空间，从而实现对强大核基算法（如SVM、核主成分分析和核k均值）在SPD矩阵数据上的应用。
• 证明在多个视觉任务中，几何感知核函数的性能优于标准欧氏核函数和基于切空间的方法。

提出的方法

• 通过在标准高斯核中用有效黎曼度量导出的测地线距离替代欧氏距离，推导出SPD流形上的一族正定高斯核函数。
• 建立一个理论框架，用于分析基于距离函数的高斯核的正定性，证明在Sym+d上某些黎曼度量可产生有效的正定核函数。
• 以对数欧氏度量为例，该度量提供真实的测地线距离，并可通过矩阵对数与指数函数实现高效计算。
• 将所提出的核函数应用于将标准核算法（SVM、核主成分分析、核k均值）推广至SPD矩阵的黎曼流形，从而保持数据的内在几何结构。
• 利用核技巧，隐式地将SPD矩阵映射到高维RKHS中，使得欧氏算法可在无需显式计算的情况下应用。
• 通过多个计算机视觉任务验证该框架，包括行人检测、物体分类、纹理识别以及DTI和运动分析中的图像分割。

实验结果

研究问题

• RQ1 基于SPD流形上测地线距离定义的高斯核是否可被证明为正定？
• RQ2 SVM和核主成分分析等核基算法如何推广至SPD矩阵的黎曼流形？
• RQ3 在SPD流形上使用几何感知核函数是否能带来相较于欧氏核函数和切空间方法的性能提升？
• RQ4 在Sym+d上，哪些黎曼度量在高斯核公式中可产生有效的正定核函数？

主要发现

• 在Brodatz纹理数据集上，基于黎曼核的核主成分分析在l=12时达到96.40%的准确率，显著优于相同条件下欧氏核的91.89%。
• 使用黎曼核的核k均值成功分割了真实DTI脑图像中的胼胝体，结果比基线方法（采用LLE、LE或HLLE进行降维）更清晰。
• 在汉堡出租车运动分割数据集上，所提出的黎曼核k均值方法产生的分割结果比基线方法更准确且更少噪声，后者在聚类前先进行了降维处理。
• 所提出的方法避免了迭代的对数与指数映射，相较于基于切空间的方法降低了计算成本，同时保持了全局几何结构。
• 该框架可推广至其他流形，只要其度量能诱导出负定的平方距离，表明其在SPD矩阵之外也具有更广泛的应用潜力。