[論文レビュー] Geodesic Distance Function Learning via Heat Flow on Vector Fields

Binbin Lin, Yang Ji+2 more|arXiv (Cornell University)|May 1, 2014

Topological and Geometric Data Analysis参考文献 22被引用数 6

ひとこと要約

この論文は、非ユークリッド多様体上での測地的距離関数を、ユークリッド空間への埋め込みを経由せずに直接学習する新規手法を提案する。距離関数の勾配場を特徴づけ、初期の局所的ベクトル場を多様体上のベクトル場の熱方程式に従って発展させることで、PDEに基づく最適化問題の解として測地的距離を回復する。合成データおよび実データにおいて、内在的な距離を忠実に近似できることを示した。

ABSTRACT

Learning a distance function or metric on a given data manifold is of great importance in machine learning and pattern recognition. Many of the previous works first embed the manifold to Euclidean space and then learn the distance function. However, such a scheme might not faithfully preserve the distance function if the original manifold is not Euclidean. Note that the distance function on a manifold can always be well-defined. In this paper, we propose to learn the distance function directly on the manifold without embedding. We first provide a theoretical characterization of the distance function by its gradient field. Based on our theoretical analysis, we propose to first learn the gradient field of the distance function and then learn the distance function itself. Specifically, we set the gradient field of a local distance function as an initial vector field. Then we transport it to the whole manifold via heat flow on vector fields. Finally, the geodesic distance function can be obtained by requiring its gradient field to be close to the normalized vector field. Experimental results on both synthetic and real data demonstrate the effectiveness of our proposed algorithm.

研究の動機と目的

• 非ユークリッド多様体上での測地的距離の歪みを引き起こす可能性がある、ユークリッド埋め込みに依存する従来の多様体学習手法の限界を克服すること。
• グローバルな等長埋め込みを必要とせずに、多様体上に直接測地的距離関数を学習する手法の開発。
• 測地的距離関数の勾配場による理論的特徴づけを行い、関数が真の距離関数であるための条件を確立すること。
• 熱方程式を用いてベクトル場を発展させることで勾配場を学習し、単位ノルムおよび平行性制約を満たすように距離関数を回復する実用的アルゴリズムの提案。

提案手法

• 理論的基盤：点 $ p $ からの測地的距離関数 $ r_p(x) $ が真の距離関数であるための必要十分条件として、その勾配場 $ \nabla r_p $ が単位ノルムであり、$ p $ を通る測地線に沿って平行であることの証明。
• 基点 $ p $ の局所近傍における単位法線ベクトル場を初期勾配場とし、局所的距離関数を表現する。
• 多様体全体にわたり、ベクトル場の熱方程式に従って初期ベクトル場を発展させ、幾何的構造を保持したまま滑らかにかつ伝搬させる。
• 熱核の漸近的解析を用いて、発展させたベクトル場が真の測地的距離関数の勾配場に漸近的に一致することを示す。
• 距離関数 $ r(x) $ を回復する最適化問題を定式化し、その勾配が正規化された熱発展ベクトル場に近くなるように制約を課す。
• 得られたスパース線形方程式系を解くことで、グリッドベースの手法や高次元埋め込みを避けて、最終的な測地的距離関数を取得する。

実験結果

リサーチクエスチョン

• RQ1 非ユークリッド空間への埋め込みを経由せずに、多様体上での測地的距離関数を直接学習できるか？
• RQ2 関数が真の測地的距離を表すために、勾配場に必要な十分条件は何か？
• RQ3 ベクトル場の熱方程式は、局所的勾配場を効果的に発展させ、測地的距離のグローバルな勾配場を近似できるか？
• RQ4 非線形多様体上での内在的距離の保存という観点から、本手法は従来のPDEベースまたは埋め込みベースの手法と比較してどのように優れているか？

主な発見

• 理論的分析により、関数 $ r_p(x) $ が点 $ p $ からの測地的距離であるための必要十分条件として、その勾配場が単位ノルムであり、$ p $ を通る測地線に沿って平行であることの確認が得られ、距離関数のPDE的特徴づけが可能となった。
• ベクトル場の熱方程式は、多様体全体にわたり局所的勾配場を効果的に発展させ、真の測地的距離関数の勾配場に漸近的に一致した。
• 回復された距離関数は、すべての $ x \in \mathcal{M} \setminus \{p\} \cup \mathrm{Cut}(p) $ に対して $ r(x) = d(p,x) $ を満たし、連続性によりカット点に対しても拡張可能である。
• 合成データおよび実データを用いた実験結果から、本手法が従来の埋め込みベース手法に比べて、内在的測地的距離をより良く保存することが示された。
• グリッドベースのソルバー（例：ファストマーチング）の計算負荷を回避でき、高次元の環境空間に対してもスケーラブルである。
• スパース線形方程式系に基づく最適化フレームワークにより、明示的な多様体パラメータ化を必要とせず、距離関数の計算が効率的に行える。