[論文レビュー] Graph Laplacians on Singular Manifolds: Toward understanding complex spaces: graph Laplacians on manifolds with singularities and boundaries

Mikhail Belkin, Qichao Que+2 more|arXiv (Cornell University)|Nov 28, 2012

Topological and Geometric Data Analysis参考文献 22被引用数 5

ひとこと要約

本稿は、特異点および境界を有する多様体上のグラフラプラシアンを分析し、境界および交差型特異点の近傍では、演算子が $O(1/\sqrt{t})$ のスケーリングを示すことが判明した。これは内部領域の $O(1)$ の挙動とは乖離している。このスケーリングの違いにより、体積が小さいにもかかわらず特異点が学習アルゴリズムに顕著に影響を与えることになり、グラフラプラシアン収束におけるギブス型効果が明らかになった。

ABSTRACT

Recently, much of the existing work in manifold learning has been done under the assumption that the data is sampled from a manifold without boundaries and singularities or that the functions of interest are evaluated away from such points. At the same time, it can be argued that singularities and boundaries are an important aspect of the geometry of realistic data. In this paper we consider the behavior of graph Laplacians at points at or near boundaries and two main types of other singularities: intersections, where different manifolds come together and sharp "edges", where a manifold sharply changes direction. We show that the behavior of graph Laplacian near these singularities is quite different from that in the interior of the manifolds. In fact, a phenomenon somewhat reminiscent of the Gibbs effect in the analysis of Fourier series, can be observed in the behavior of graph Laplacian near such points. Unlike in the interior of the domain, where graph Laplacian converges to the Laplace-Beltrami operator, near singularities graph Laplacian tends to a first-order differential operator, which exhibits different scaling behavior as a function of the kernel width. One important implication is that while points near the singularities occupy only a small part of the total volume, the difference in scaling results in a disproportionately large contribution to the total behavior. Another significant finding is that while the scaling behavior of the operator is the same near different types of singularities, they are very distinct at a more refined level of analysis. We believe that a comprehensive understanding of these structures in addition to the standard case of a smooth manifold can take us a long way toward better methods for analysis of complex non-linear data and can lead to significant progress in algorithm design.

研究の動機と目的

• 現実のデータに一般的に見られるが理論的分析ではしばしば無視される境界および特異点を有する多様体上でのグラフラプラシアンの挙動を理解すること。
• 交差や鋭いエッジを含む特異点が、グラフラプラシアンの収束およびスケーリングにどのように影響するかを分析すること。
• 体積が小さいにもかかわらず、異なるスケーリング挙動のおかげで特異点が不釣り合いに寄与する理由を示すこと。
• 幾何的特異点を考慮することで、多様体学習アルゴリズムの理論的基盤を強化すること。

提案手法

• 核帯域幅 $t \to 0$ のときのグラフラプラシアン $L_t f(x)$ の極限挙動を、ヒートカーネル近似を用いて分析する。
• 境界および交差の近傍における $L_t f(x)$ の漸近展開を、統合領域および局所幾何の分析により導出する。
• 境界点の場合、半空間近似を用い、非対称性のため一次の微分項が支配的であることを示す。
• 交差特異点の場合、二つの交差する多様体の接空間への射影を考慮し、それらから生じる演算子のスケーリングを計算する。
• 関数 $f$ およびカーネル $K_t$ のテイラー展開を用い、最近接点および射影点の取り扱いに注意を払う。
• 幾何確率および漸近解析を用いて理論的結果を導出し、誤差項の厳密なバウンドを確立する。

実験結果

リサーチクエスチョン

• RQ1 多様体の境界付近におけるグラフラプラシアンは、内部点と比べてどのように振る舞うか？
• RQ2 二つの多様体の交差付近におけるグラフラプラシアンのスケーリング挙動は何か？
• RQ3 エッジや交差といった特異点が、滑らかな内部領域とは異なった演算子スケーリングを生じる理由は何か？
• RQ4 特異点付近での $O(1/\sqrt{t})$ スケーリングが、グラフラプラシアンに基づくアルゴリズムのグローバル挙動にどのように影響するか？
• RQ5 異なる特異性タイプにおける特異なスケーリングを用いて、データ内の幾何的構造を検出または特徴づけることは可能か？

主な発見

• 境界付近ではグラフラプラシアンは $O(1/\sqrt{t})$ にスケーリングするが、内部では $O(1)$ にスケーリングするため、収束挙動に根本的な違いがあることが示された。
• 境界付近での支配的項は、法線微分 $\partial_\mathbf{n} f(x_0)$ に比例し、$\pi^{(d-1)/2}/2$ および $e^{-r^2}$ を含む係数を有する。
• 交差特異点では、グラフラプラシアンは $O(1/\sqrt{t})$ にスケーリングし、両方の多様体の法線微分およびそれらのなす角度 $\theta$ に依存する。
• 異なる特異性タイプ（境界、交差、エッジ）においてスケーリング挙動は同一であるが、より詳細には関数形および幾何的依存性が異なる。
• 体積が小さいにもかかわらず、$1/\sqrt{t}$ スケーリングのおかげで特異点付近の点が総演算子に顕著に寄与することが判明した。
• 結果から、特異点を無視すると、特に高次元の非線形データにおいて、グラフラプラシアンに基づく学習で偏りや不正確な推論が生じる可能性があることが示唆された。