[論文レビュー] Spectral Convergence of the connection Laplacian from random samples

Amit Singer, Hau‐Tieng Wu|arXiv (Cornell University)|Jun 7, 2013

Topological and Geometric Data Analysis参考文献 31被引用数 26

ひとこと要約

本稿は、データ点が一般の（非一様な）分布から独立に抽出された場合、境界を含む多様体上のベクトル bundle 上の接続ラプラシアンへのグラフ接続ラプラシアン（GCL）のスペクトル収束を確立する。著者らは、ベルキンとニヤギのスペクトル収束結果を一般化し、主 bundle 構造に基づく統一的枠組みと摂動解析の収縮写像原理を用いて、GCL の固有ベクトルおよび固有値が接続ラプラシアンのそれらに収束することを証明する。

ABSTRACT

Spectral methods that are based on eigenvectors and eigenvalues of discrete graph Laplacians, such as Diffusion Maps and Laplacian Eigenmaps are often used for manifold learning and non-linear dimensionality reduction. It was previously shown by Belkin and Niyogi \cite{belkin_niyogi:2007} that the eigenvectors and eigenvalues of the graph Laplacian converge to the eigenfunctions and eigenvalues of the Laplace-Beltrami operator of the manifold in the limit of infinitely many data points sampled independently from the uniform distribution over the manifold. Recently, we introduced Vector Diffusion Maps and showed that the connection Laplacian of the tangent bundle of the manifold can be approximated from random samples. In this paper, we present a unified framework for approximating other connection Laplacians over the manifold by considering its principle bundle structure. We prove that the eigenvectors and eigenvalues of these Laplacians converge in the limit of infinitely many independent random samples. We generalize the spectral convergence results to the case where the data points are sampled from a non-uniform distribution, and for manifolds with and without boundary.

研究の動機と目的

• 滑らかな多様体上のベクトル bundle 上の接続ラプラシアンへのグラフ接続ラプラシアン（GCL）のスペクトル収束を確立すること。
• 元々一様なサンプリング下で得られたラプラス＝ベルトラミー作用素に関するスペクトル収束結果を、非一様なサンプリングおよび境界を有する多様体へと一般化すること。
• 群作用に由来するベクトル bundle に適用可能な、主 bundle フレームワークを用いた接続ラプラシアンの近似を統一すること。
• ランダムサンプルからの固有空間および固有値の収束を厳密に証明することで、ベクトル拡散マップ（VDM）の理論的基盤を拡張すること。

提案手法

• 直交群やユニタリ群などの群作用によって誘導されるベクトル bundle 上の接続ラプラシアンを形式化し、対称性と等長性を保証する。
• 最適なアライメントを用いて、商空間 $ \mathcal{X}/G $ 上に不変な距離 $ d_G $ を定義し、ノイズパラメータを除去するためのユークリッド距離を置き換える。
• Gaussian カーネル重みを $ d_G $ を用いて構築し、GCL を定義することで、データの類似度と群不変構造を両方符号化する。
• 局所等長埋め込みの摂動から生じる偏微分方程式系を解くために収縮写像原理を適用し、対称的等長埋め込みの存在を保証する。
• Schauder 評価およびソボレフ埋め込み定理を用いて、$ C^{2,\alpha} $ 空間における解の正則性と収束を制御する。
• グラフラプラシアン収束の解析を一様 i.i.d. の場合を越えて、非一様なサンプリングおよび境界を有する多様体へと適応することで、収束結果を拡張する。

実験結果

リサーチクエスチョン

• RQ1 非一様なサンプリング下で、多様体の接ベクトル bundle 上の接続ラプラシアンへのグラフ接続ラプラシアン（GCL）のスペクトル収束は成立するか？
• RQ2 一般のベクトル bundle に対して、主 bundle フレームワークを統一的に用いることで、接続ラプラシアンのスペクトル収束を確立できるか？
• RQ3 底面多様体が空でない境界を持つ場合、GCL の固有値および固有ベクトルの収束はどのように振る舞うか？
• RQ4 無限個の独立したランダムサンプルの極限において、非一様なサンプリングであっても、GCL が接続ラプラシアンを近似するための条件は何か？
• RQ5 ベクトル拡散マップ（VDM）の理論的枠組みは、GCL が接続ラプラシアンにスペクトル収束することによって、厳密に裏付けられるか？

主な発見

• i.i.d. サンプル数が無限大に近づくにつれて、グラフ接続ラプラシアン（GCL）の固有ベクトルおよび固有値は、ベクトル bundle 上の接続ラプラシアンのそれらに収束する。
• 非一様なサンプリング測度および空でない境界を有する多様体に対してもスペクトル収束が証明され、ベルキンとニヤギの元々の結果が拡張される。
• 局所等長埋め込みの摂動から生じる偏微分方程式系に収縮写像を適用することで収束が確立される。
• 本手法により、多様体およびその二重被覆が $ \mathbb{R}^p $ 内に対称的等長埋め込みが保証され、群作用の対称性が維持される。
• 主 bundle 構造に基づく統一的枠組みにより、さまざまな接続ラプラシアンの近似が可能となり、ラプラス＝ベルトラミー作用素に関する既存の結果が一般化される。
• 任意の滑らかで閉じており非可縮な多様体に対して、二重被覆と収縮法を用いて、ユークリッド空間への対称的等長埋め込みの存在が証明される。