[論文レビュー] Convergence of Laplacian spectra from random samples

Zuoqiang Shi|arXiv (Cornell University)|Jul 1, 2015

Topological and Geometric Data Analysis参考文献 16被引用数 16

ひとこと要約

本稿は、リーマン多様体上に一般の確率分布から抽出された点群にPoint Integral Method (PIM) を適用した際の固有ベクトルおよび固有値の収束を確立する。サンプル数が増加し、カーネル帯域幅が収束する際、離散ラプラシアン固有値はNeumann境界条件を伴う重み付きラプラシアン＝ベルトラミー作用素の固有値に収束し、やや弱い正則性仮定のもとで収束の速度見積もりを提供する。

ABSTRACT

Eigenvectors and eigenvalues of discrete graph Laplacians are often used for manifold learning and nonlinear dimensionality reduction. It was previously proved by Belkin and Niyogi that the eigenvectors and eigenvalues of the graph Laplacian converge to the eigenfunctions and eigenvalues of the Laplace-Beltrami operator of the manifold in the limit of infinitely many data points sampled independently from the uniform distribution over the manifold. Recently, we introduced Point Integral method (PIM) to solve elliptic equations and corresponding eigenvalue problem on point clouds. We have established a unified framework to approximate the elliptic differential operators on point clouds. In this paper, we prove that the eigenvectors and eigenvalues obtained by PIM converge in the limit of infinitely many random samples independently from a distribution (not necessarily to be uniform distribution). Moreover, one estimate of the rate of the convergence is also given.

研究の動機と目的

• サンプルが一様分布ではなく一般の分布から抽出される場合に、点群データからの離散固有値および固有ベクトルが真のラプラシアン＝ベルトラミー固有値に収束することを確立すること。
• 従来の結果が一様サンプリングおよび正規化グラフラプラシアンに限られていたのを、Point Integral Method (PIM) を用いて非一様サンプリングに拡張すること。
• 境界を持つ多様体上でのPIMに基づく離散固有値問題が連続固有値問題に収束する速度見積もりを、厳密に導出すること。
• 従来の熱核に基づく手法とは異なり、積分方程式および解作用素に基づく、新たな解析的枠組みを構築すること。

提案手法

• 一般のカーネル関数 $ R $ 及びその累積形 $ \bar{R} $ を用いたカーネルに基づくグラフラプラシアン形式による点群上での離散固有値問題を導入する。
• 3つの解作用素を定義する：連続的重み付きラプラシアン＝ベルトラミー問題のための $ T $、連続的積分方程式のための $ T_t $、点群近似のための離散的 $ T_{t,n} $。
• 安定性および近似見積もりを用いて、離散作用素 $ T_{t,n} $ と連続作用素 $ T_t $、および $ T_t $ と真の解作用素 $ T $ の間の収束を分析する。
• 離散問題と連続問題をつなぐために、新規の中間積分方程式 (1.5) を導入し、楕円型偏微分方程式の数値解析の道具を活用可能にする。
• 集中不等式およびカーネルに基づく台形則誤差見積もりを用いて、多様体上での経験的期待値と真の期待値の差を評価する。
• 重み付き $ L^2 $ ノルム、カーネルの台、サンプリング密度を含む推移的推定の鎖を用いて収束を確立し、最終的に $ n $, $ t $, サンプリング密度 $ p(\mathbf{x}) $ に依存する速度見積もりを導出する。

実験結果

リサーチクエスチョン

• RQ1 データ点が非一様分布から抽出される場合、PIMに基づくグラフラプラシアンの固有系は、真のラプラシアン＝ベルトラミー固有系に収束するか？
• RQ2 境界を持つ多様体に対しても収束は成立するか？ また、極限においてどのような境界条件が現れるか？
• RQ3 一般のサンプリング測度のもとで、離散固有値および固有ベクトルの連続固有値に向けた収束速度は何か？
• RQ4 提案手法の解析的アプローチは、従来の熱核に基づく収束証明とどのように異なるか？

主な発見

• サンプル数 $ n \to \infty $ および帯域幅 $ t \to 0 $ の下で、PIMに基づくグラフラプラシアンの離散固有値および固有ベクトルは、重み付きラプラシアン＝ベルトラミー作用素 $ -\frac{1}{p^2(\mathbf{x})}\text{div}(p^2(\mathbf{x})\nabla u(\mathbf{x})) $ およびNeumann境界条件に収束する。
• 収束は一様分布に限らず、任意の滑らかな確率密度関数 $ p(\mathbf{x}) $ から抽出されたデータに対しても成立し、従来の結果を拡張する。
• 正則性およびサンプリング条件が適切である場合、収束の速度見積もりとして、固有値および固有ベクトルの誤差が $ O\left(\frac{1}{n^{1/2}} + t^{1/2}\right) $ のオーダーで減少することを導出する。
• 解析により、極限作用素がサンプリング密度 $ p(\mathbf{x}) $ に依存することが判明し、ラプラシアンが共形因子により変更されることを説明する。これにより、主要項に $ p^{-2} $ が現れる。
• 解作用素 $ T_{t,n} \to T_t \to T $ の安定性および近似性を証明することで収束を確立し、積分方程式の定式化およびカーネル台形則誤差見積もりを用いる。
• 証明手法は従来の研究とは根本的に異なり、熱核や拡散近似に依存するのではなく、偏微分方程式および積分方程式の理論に依拠する。