[論文レビュー] Improved spectral convergence rates for graph Laplacians on epsilon-graphs and k-NN graphs

Jeff Calder, Nicolás García Trillos|arXiv (Cornell University)|Oct 29, 2019

Spectral Theory in Mathematical Physics参考文献 54被引用数 29

ひとこと要約

本稿は、固有関数の正則性と強い点별一致性を活用することで、ε-グラフおよびk-NNグラフ上のグラフラプラシアンの改善されたスペクトル収束レートを確立している。最適なεスケーリングの下で、固有値および固有ベクトルは $ O(n^{-1/(m+4)}) $ のレートで収束することが証明されており、対数要因を除いて、点別一致性レートと一致し、$ m \geq 5 $ の場合に既存の $ O(n^{-1/2m}) $ 界より改善されている。

ABSTRACT

In this paper we improve the spectral convergence rates for graph-based approximations of Laplace-Beltrami operators constructed from random data. We utilize regularity of the continuum eigenfunctions and strong pointwise consistency results to prove that spectral convergence rates are the same as the pointwise consistency rates for graph Laplacians. In particular, for an optimal choice of the graph connectivity $\varepsilon$, our results show that the eigenvalues and eigenvectors of the graph Laplacian converge to those of the Laplace-Beltrami operator at a rate of $O(n^{-1/(m+4)})$, up to log factors, where $m$ is the manifold dimension and $n$ is the number of vertices in the graph. Our approach is general and allows us to analyze a large variety of graph constructions that include $\varepsilon$-graphs and $k$-NN graphs.

研究の動機と目的

• 多様体学習や機械学習の応用におけるグラフラプラシアンの鋭いスペクトル収束レートの欠如に対処すること。
• 特に $ O(n^{-1/2m}) $ のような非最適な収束レートに依存していた先行研究の制限を克服すること。
• ε-グラフおよびk-NNグラフの両方に適用可能な一般化されたフレームワークを確立し、一般的なグラフ構築法における解析を統一すること。
• グラフラプラシアンの点別一貫性とスペクトル収束の間のギャップを埋め、固有値収束が点別レートと一致することを示すこと。
• 正則性仮定の下で、可能な限り速い収束レートを得るために、接続性パラメータεの最適スケーリングを提供すること。

提案手法

• 連続的固有関数の正則性特性を活用して、スペクトル近似の誤差を制御する。
• グラフラプラシアンの強い点別一貫性結果を応用し、スペクトル収束レートを導出する。
• 最適輸送計画を介して、ウォッサーシュタイン距離と固有関数近似の $ L^2 $-誤差の間の関係を確立する。
• 多様体の双リプシッツ分割を用いて局所座標パッチを構築し、測度濃縮を制御する。
• チェルノフ型の不等式を適用して、小さなセル上での経験的測度の変動を制御し、一様収束を保証する。
• グラフの接続性（ε）とサンプリング密度（n）のトレードオフをバランスさせることで収束レートを導出し、$ \varepsilon \sim (\log n / n)^{1/(m+4)} $ を最適化する。

実験結果

リサーチクエスチョン

• RQ1 ε-グラフおよびk-NNグラフから構築されたグラフラプラシアンの最適なスペクトル収束レートは何か？
• RQ2 接続性パラメータεの選択が、固有値および固有ベクトルの収束レートにどのように影響するか？
• RQ3 固有関数の正則性と点別一貫性結果を活用することで、スペクトル収束レートを改善できるか？
• RQ4 グラフラプラシアンの固有値収束レートは、グラフラプラシアン作用素の点別一貫性レートと等価か？
• RQ5 改善された収束レート $ O(n^{-1/(m+4)}) $ は、ε-グラフおよびk-NNグラフを含むさまざまなグラフ構築法に一様に成立するか？

主な発見

• 最適スケーリング $ \varepsilon \sim \left(\frac{\log n}{n}\right)^{1/(m+4)} $ を有するε-グラフにおいて、グラフラプラシアンの固有値は、対数要因を除いて、ラプラシアン＝ベルトラミ作用素の固有値に対して $ O(n^{-1/(m+4)}) $ のレートで収束する。
• $ L^2 $ ノルムにおける固有ベクトルの収束レートも $ O(n^{-1/(m+4)}) $ であり、正則性および一貫性結果によって確立された等価性により、固有値レートと一致する。
• 先行研究に存在する余分な対数要因を排除することで、$ m \geq 5 $ のすべてのケースで [21] の $ O(n^{-1/2m}) $ 界を改善する。
• 多様体仮定および最適接続性スケーリングの下で、収束レートがタイトであることが示されており、ランダム幾何グラフの接続性閾値結果によって裏付けられている。
• グラフラプラシアン作用素の点別一貫性は、同じレートでのスペクトル収束を意味し、局所的およびグローバルな収束行動の直接的な関係を確立する。
• 解析は一般であり、ε-グラフおよびk-NNグラフの両方に適用可能であり、広く用いられるこれらの構築法において、同じ収束レートが成り立つことを示している。