[论文解读] Convergence of Laplacian spectra from random samples

Zuoqiang Shi|arXiv (Cornell University)|Jul 1, 2015

Topological and Geometric Data Analysis参考文献 16被引用 16

一句话总结

本文建立了在黎曼流形上从一般概率分布采样的点云数据上应用点积分法（PIM）时，特征向量与特征值的收敛性。证明了当样本数量增加且核带宽减小时，离散拉普拉斯谱收敛于具有诺伊曼边界条件的加权拉普拉斯-贝尔特拉米算子谱，并在较弱的正则性假设下提供了收敛速率估计。

ABSTRACT

Eigenvectors and eigenvalues of discrete graph Laplacians are often used for manifold learning and nonlinear dimensionality reduction. It was previously proved by Belkin and Niyogi that the eigenvectors and eigenvalues of the graph Laplacian converge to the eigenfunctions and eigenvalues of the Laplace-Beltrami operator of the manifold in the limit of infinitely many data points sampled independently from the uniform distribution over the manifold. Recently, we introduced Point Integral method (PIM) to solve elliptic equations and corresponding eigenvalue problem on point clouds. We have established a unified framework to approximate the elliptic differential operators on point clouds. In this paper, we prove that the eigenvectors and eigenvalues obtained by PIM converge in the limit of infinitely many random samples independently from a distribution (not necessarily to be uniform distribution). Moreover, one estimate of the rate of the convergence is also given.

研究动机与目标

• 在样本并非仅来自均匀分布，而是来自一般分布时，建立从点云数据得到的离散特征值与特征向量收敛于真实拉普拉斯-贝尔特拉米谱的结论。
• 将先前仅限于均匀采样和归一化图拉普拉斯算子的收敛结果，通过点积分法（PIM）扩展至非均匀采样情形。
• 为PIM-based离散特征值问题向具有边界的流形上连续特征值问题的收敛性提供严格的速率估计。
• 提出一种基于积分方程与解算子的新型分析框架，以研究谱收敛性，该方法与以往基于热核的方法有本质不同。

提出的方法

• 引入一种基于核函数 $ R $ 及其累积形式 $ \bar{R} $ 的核图拉普拉斯公式，在点云上定义离散特征值问题。
• 定义三个解算子：$ T $ 表示连续加权拉普拉斯-贝尔特拉米问题的解算子，$ T_t $ 表示连续积分方程的解算子，$ T_{t,n} $ 表示点云离散近似的解算子。
• 通过比较离散算子 $ T_{t,n} $ 与连续算子 $ T_t $，以及 $ T_t $ 与真实解算子 $ T $，利用稳定性与逼近估计分析收敛性。
• 引入一个新颖的中间积分方程（1.5），在离散与连续问题之间建立桥梁，使能使用椭圆型偏微分方程数值分析的工具。
• 利用集中不等式与基于核的求积误差估计，控制流形上经验期望与真实期望之间的差异。
• 通过涉及加权 $ L^2 $ 范数、核支撑与采样密度的一系列估计链，最终得出依赖于 $ n $、$ t $ 与采样密度 $ p(\mathbf{x}) $ 的收敛速率估计。

实验结果

研究问题

• RQ1 当数据点从非均匀分布中采样时，基于PIM的图拉普拉斯算子的特征系统是否收敛于真实的拉普拉斯-贝尔特拉米特征系统？
• RQ2 该收敛性是否可在具有边界的流形上成立？极限情况下会涌现出何种边界条件？
• RQ3 在一般采样测度下，离散特征值与特征向量向其连续对应物的收敛速率如何？
• RQ4 所提出的方法在分析方法上与以往基于热核的收敛性证明有何本质区别？

主要发现

• 当 $ n \to \infty $ 且 $ t \to 0 $ 时，基于PIM的图拉普拉斯算子的离散特征值与特征向量收敛于加权拉普拉斯-贝尔特拉米算子 $ -\frac{1}{p^2(\mathbf{x})}\text{div}(p^2(\mathbf{x})\nabla u(\mathbf{x})) $ 的特征系统，且满足诺伊曼边界条件。
• 该收敛性对任意光滑概率密度 $ p(\mathbf{x}) $ 均成立，不仅限于均匀分布，从而扩展了先前的结果。
• 推导出收敛速率估计，表明在适当的正则性与采样条件下，特征值与特征向量的误差以 $ O\left(\frac{1}{n^{1/2}} + t^{1/2}\right) $ 的速率衰减。
• 分析表明，极限算子依赖于采样密度 $ p(\mathbf{x}) $，后者通过共形因子改变拉普拉斯算子，解释了主导项中出现 $ p^{-2} $ 的原因。
• 通过证明解算子的稳定性与逼近性 $ T_{t,n} \to T_t \to T $，建立了收敛性，方法基于积分方程公式与核求积界。
• 该证明方法与以往工作有根本性不同，依赖于偏微分方程与积分方程理论，而非热核或扩散近似。