[論文レビュー] LDLE: Low Distortion Local Eigenmaps

Dhruv Kohli, Alexander Cloninger+1 more|arXiv (Cornell University)|Jan 26, 2021

Human Pose and Action Recognition参考文献 40被引用数 6

ひとこと要約

LDLE（低歪み局所固有写像）は、グラフラプラシアン固有ベクトルとプロクラステス解析を用いて低歪み局所埋め込みを構築し、それを登録することでグローバルな内在次元埋め込みを生成する多様体学習手法である。この手法は、多様体を引き裂き、色分けされた境界を介して接合手順を提供することにより、閉じた多様体や非可定向多様体（たとえばトーラスやメービウスの帯）の正確な埋め込みを可能にする点が特徴的であり、ノイズやスパarsityにさらされても距離保存性において他の手法を著しく上回っている。

ABSTRACT

We present Low Distortion Local Eigenmaps (LDLE), a manifold learning technique which constructs a set of low distortion local views of a dataset in lower dimension and registers them to obtain a global embedding. The local views are constructed using the global eigenvectors of the graph Laplacian and are registered using Procrustes analysis. The choice of these eigenvectors may vary across the regions. In contrast to existing techniques, LDLE can embed closed and non-orientable manifolds into their intrinsic dimension by tearing them apart. It also provides gluing instruction on the boundary of the torn embedding to help identify the topology of the original manifold. Our experimental results will show that LDLE largely preserved distances up to a constant scale while other techniques produced higher distortion. We also demonstrate that LDLE produces high quality embeddings even when the data is noisy or sparse.

研究の動機と目的

• グラフラプラシアンの固有関数に基づく、低歪み局所パラメータ化の離散的でアルゴリズム的な実装を開発すること。
• 局所的視点の登録中に多様体を引き裂けるようにすることで、閉じた多様体や非可定向多様体のグローバルな多様体埋め込みを可能にすること。
• 色分けされた境界マークを用いて、元の多様体の位相的構造を再構築するための位相的接合手順を提供すること。
• 地表面距離を定数スケールまで保存し、低次元埋め込みにおける歪みを最小限に抑えること。
• 固有ベクトル勾配の安定的推定を通じて、ノイズやスパarsityに強い入力データに対する耐性を確保すること。

提案手法

• 局所的領域毎に歪みを最小化するように選択されたグラフラプラシアンの固有ベクトルから導かれる低次元パラメータ化 Φₖ を用いて多様体の局所的視点を構築する。
• 各局所チャートに最適な固有ベクトルを選択するために、ラプラシアン固有関数の勾配場の内積を、局所的相関を用いて推定する。
• プロクラステス解析を適用して、埋め込み空間内での局所的視点 Φₖ(Uₖ) を整列させ、視点間のずれを最小化するとともに、相対的な幾何を保持する。
• 閉じた多様体や非可定向構造を扱うために、埋め込み中に多様体を引き裂くことを許容する。
• 色分けされた境界マークを用いて接合手順を符号化し、同じ色の境界点は元の多様体上で隣接する点を表す。
• ノイズの影響下でも、重要な内積項（|Ãkij|）の効率的推定を可能にするために、フェインマン＝カックの公式と低ランク近似を活用する。

実験結果

リサーチクエスチョン

• RQ1 グラフラプラシアンの固有ベクトルを用いて、離散的設定下で低歪み局所パラメータ化を構築できるか？
• RQ2 多様体の局所的視点をどのように登録することで、内在的な幾何を保持したグローバルな埋め込みが得られるか？
• RQ3 LDLEは、トーラスやメービウスの帯といった閉じた多様体や非可定向多様体を、位相的歪みなしにその内在次元に埋め込むことができるか？
• RQ4 ノイズやスパarsityの下で、UMAP や t-SNE、ラプラシアン固有写像といった既存手法と比較して、LDLE は地表面距離の保存性においてどの程度優れているか？
• RQ5 境界の色分けは、引き裂かれた埋め込みから元の多様体を再構築するための信頼できる位相的接合手順を提供できるか？

主な発見

• LDLE は、スイスロールとトーラスのデータセット上で実証されたように、既存手法よりも顕著に低い歪みを達成しており、地表面距離を定数スケールまで保存している。
• 多様体を引き裂き、境界の色分けを用いて接合することで、メービウスの帯やクラインのボトルといった非可定向多様体の埋め込みに成功している。
• ノイズの分散が 10⁻⁴ のスイスロールにおいて、グラフラプラシアンの低ランク近似を用いたフェインマン＝カックの公式が、|Ãkij| の推定において LLR や有限和近似を上回る最も高い精度を示した。
• LDLE は、スパースサンプリングやノイズの影響下でも、歪み度数 ||Φₖ||_Lip ||Φₖ⁻¹||_Lip で測定される局所パラメータ化の歪みが最小限に抑えられ、高い埋め込み品質を維持している。
• LDLE 埋め込みから導かれたカットアンドペースト図は、正しい位相的関係を特定しており、同じ色の境界セグメントは接合すべき点を示している。
• 各領域毎に固有ベクトルを適応的に選択するアルゴリズムの設計により、一様なグローバル手法に比べて局所的な忠実度が向上している。