[论文解读] Geometric distance and mean for positive semi-definite matrices of fixed rank

Silvère Bonnabel, Rodolphe Sepulchre|arXiv (Cornell University)|Jul 28, 2008

Sparse and Compressive Sensing Techniques参考文献 18被引用 11

一句话总结

本文提出了一种新型的黎曼度量和固定秩正半定矩阵流形上的几何平均，该方法基于商几何构造，确保测地线完备性，并在正交变换、缩放和伪逆运算下保持不变。该距离可通过基于SVD的计算高效近似，所得平均值保持矩阵秩不变，同时具备最优的几何性质。

ABSTRACT

This paper introduces a new metric and mean on the set of positive semidefinite matrices of fixed-rank. The proposed metric is derived from a well-chosen Riemannian quotient geometry that generalizes the reductive geometry of the positive cone and the associated natural metric. The resulting Riemannian space has strong geometrical properties: it is geodesically complete, and the metric is invariant with respect to all transformations that preserve angles (orthogonal transformations, scalings, and pseudoinversion). A meaningful approximation of the associated Riemannian distance is proposed, that can be efficiently numerically computed via a simple algorithm based on SVD. The induced mean preserves the rank, possesses the most desirable characteristics of a geometric mean, and is easy to compute.

研究动机与目标

• 在固定秩正半定矩阵集合上定义一种支持有意义距离和平均运算的几何结构。
• 确保黎曼度量在正交变换、缩放和伪逆运算下保持不变，以维持几何一致性。
• 利用奇异值分解（SVD）开发黎曼距离的数值高效近似方法。
• 构建一种保持矩阵秩并继承对称性和连续性等理想性质的几何平均。
• 在固定秩正半定矩阵集合上建立完备且行为良好的黎曼流形结构。

提出的方法

• 该方法基于将正锥的约化几何推广至固定秩矩阵，构建黎曼商几何。
• 在商空间上定义黎曼度量，该度量继承了保角变换下的不变性，包括正交映射、缩放和伪逆运算。
• 通过基于奇异值分解（SVD）的数值算法近似黎曼距离，实现高效计算。
• 几何平均定义为该度量下的黎曼质心，确保秩保持和对称性。
• 该构造确保测地线完备性，保证所有测地线在所有时间内均有定义。
• 该方法利用低秩矩阵的内在几何结构，在保持计算可行性的同时维持几何保真度。

实验结果

研究问题

• RQ1 如何在固定秩正半定矩阵流形上定义黎曼度量，使其尊重正交不变性和缩放等基本对称性？
• RQ2 该黎曼空间中的测地线距离具有何种结构？能否为实际应用高效近似？
• RQ3 能否构造一种保持矩阵秩并满足黎曼设置下几何平均关键公理的几何平均？
• RQ4 与现有度量相比，所提出的度量在不变性和计算效率方面表现如何？
• RQ5 所得黎曼流形的全局几何性质（如完备性和曲率）是什么？

主要发现

• 所提出的黎曼度量在正交变换、缩放和伪逆运算下保持不变，确保对常见矩阵运算的鲁棒性。
• 黎曼空间具有测地线完备性，即所有测地线均在所有时间内存在，支持稳定的数值计算。
• 通过简单的基于SVD的算法，实现了黎曼距离的数值高效近似，支持实际部署。
• 由该度量诱导的几何平均保持了输入矩阵的固定秩，这对低秩应用至关重要。
• 几何平均继承了对称性、连续性和唯一性等理想特性，适用于统计和机器学习应用。
• 商几何框架推广了经典正锥的约化几何，将其性质扩展至固定秩情形。