[論文レビュー] On the Diffusion Geometry of Graph Laplacians and Applications

Xiuyuan Cheng, Manas Rachh+1 more|arXiv (Cornell University)|Nov 9, 2016

Topological and Geometric Data Analysis参考文献 15被引用数 12

ひとこと要約

この論文は、ランダムウォークの到達確率に基づいて、頂点が集合からどれほど離れているかを測る重み付き有向グラフ上の拡散距離距離を導入する。また、グラフラプラシアンの固有関数がこの距離と強く相関することを証明し、固有関数の大きな値がノード集合から遠い頂点に対応することを示す。これにより、スペクトルクラスタリングにおけるロバスト性が保証され、ホットスポット予想の離散的類似が得られる。

ABSTRACT

We study directed, weighted graphs $G=(V,E)$ and consider the (not necessarily symmetric) averaging operator $$ (\mathcal{L}u)(i) = -\sum_{j \sim_{} i}{p_{ij} (u(j) - u(i))},$$ where $p_{ij}$ are normalized edge weights. Given a vertex $i \in V$, we define the diffusion distance to a set $B \subset V$ as the smallest number of steps $d_{B}(i) \in \mathbb{N}$ required for half of all random walks started in $i$ and moving randomly with respect to the weights $p_{ij}$ to visit $B$ within $d_{B}(i)$ steps. Our main result is that the eigenfunctions interact nicely with this notion of distance. In particular, if $u$ satisfies $\mathcal{L}u = λu$ on $V$ and $$ B = \left\{ i \in V: - \varepsilon \leq u(i) \leq \varepsilon ight\} eq \emptyset,$$ then, for all $i \in V$, $$ d_{B}(i) \log{\left( \frac{1}{|1-λ|} ight) } \geq \log{\left( \frac{ |u(i)| }{\|u\|_{L^{\infty}}} ight)} - \log{\left(\frac{1}{2} + \varepsilon ight)}.$$ $d_B(i)$ is a remarkably good approximation of $|u|$ in the sense of having very high correlation. The result implies that the classical one-dimensional spectral embedding preserves particular aspects of geometry in the presence of clustered data. We also give a continuous variant of the result which has a connection to the hot spots conjecture.

研究の動機と目的

• ランダムウォーク到達時間に基づく新しい拡散距離距離を用いて、グラフラプラシアン固有関数の幾何的理解を確立すること。
• グラフラプラシアンの固有関数がノード集合への拡散距離によってよく近似されることを示し、特にクラスタ構造を持つグラフにおいて有効であることを示すこと。
• 連続的なホットスポット予想の離散的類似を提供し、ノイマン固有関数の極値がノード線からあまり近すぎないことを示すこと。
• 固有関数の大きさ、固有値、拡散距離の間の鋭い不等式を証明し、クラスタを伴う状況下でもスペクトルクラスタリングに理論的保証を与えること。

提案手法

• 正規化された遷移確率 $ p_{ij} $ を用いて、非対称なグラフラプラシアン作用素 $\mathcal{L}$ を $ (\mathcal{L}u)(i) = -\sum_{j\sim i} p_{ij}(u(j) - u(i)) $ として定義する。
• 頂点 $ i $ から部分集合 $ B \subset V $ に到達する確率が50％以上になるまでの最小ステップ数として、拡散距離 $ d_B(i) $ を定義する。
• 重要な不等式を確立する：$ d_B(i) \log\left(\frac{1}{|1 - \lambda|}\right) \geq \log\left(\frac{|u(i)|}{\|u\|_{L^\infty}}\right) - \log\left(\frac{1}{2} + \varepsilon\right) $、ここで $ B = \{i : |u(i)| \leq \varepsilon\} $ である。
• 確率論的議論とランダムウォークのマルティングルの性質を用いて、固有値 $ \lambda $ を利用して $ u $-値の減衰を $ d_B(i) $ の観点から評価する。
• 一般化されたシュレーディンガー型方程式 $ \mathcal{L}u = Wu $ に結果を拡張し、$ \lambda $ を $ \|W\|_{L^\infty} $ に置き換え、類似の評価を得る。
• 完全グラフ $ K_n $ に単一の吸収境界頂点を導入した極限 $ n \to \infty $ の例を構築し、不等式の鋭さを示す。この場合、最適定数は $ \log 2 $ である。

実験結果

リサーチクエスチョン

• RQ1 グラフにおける固有関数の大きさは、ノード集合からの距離とどのように関係するか？
• RQ2 ノード集合への拡散距離は、スペクトルクラスタリングにおける最初の非自明な固有関数の幾何的代理として、ロバストに機能するか？
• RQ3 グラフラプラシアンの固有関数は、特にホットスポット予想に関連して、クラスタ構造を持つグラフで幾何的構造をどれほど保っているか？
• RQ4 連続的なホットスポット予想の離散的類似は、ノイマン固有関数の極値がノード線から十分に離れていることを保証するか？
• RQ5 固有関数の大きさ、固有値、拡散距離の間の導出された不等式の鋭さはどの程度か？

主な発見

• 拡散距離 $ d_B(i) $ と固有関数の大きさ $ |u(i)| $ の間には強い相関があり、数値例では相関係数が 0.9897 に達する。
• すべての $ i \in V $ に対して不等式 $ d_B(i) \log\left(\frac{1}{|1 - \lambda|}\right) \geq \log\left(\frac{|u(i)|}{\|u\|_{L^\infty}}\right) - \log\left(\frac{1}{2} + \varepsilon\right) $ が成り立ち、固有関数の減衰に関する理論的境界を提供する。
• 不等式における定数 $ \log 2 $ は鋭い。これは、完全グラフ $ K_n $ に単一の吸収境界頂点を導入した極限 $ n \to \infty $ の例によって示される。
• シュレーディンガー型方程式 $ \mathcal{L}u = Wu $ に対しては、境界 $ \partial V $ における不等式が $ d_{\partial V}(i) \log\left(\frac{1}{1 - \|W\|_{L^\infty}}\right) \geq \log\left(\frac{2|u(i)|}{\|u\|_{L^\infty}}\right) $ の形に一般化され、固有値問題を超えた結果が得られる。
• 連続的バージョンでは、第一非自明なノイマン固有関数の最大値と最小値がノード線からあまり近すぎないことを示唆し、ホットスポット予想の離散的類似を支持する。
• 本手法により、クラスタが存在する状況下でもスペクトルクラスタリングが安定に保たれることを保証する。最初の固有関数はクラスタを効果的に分離し、ボトルネック領域への拡散距離と整合する。