[論文レビュー] Fast and Robust Shortest Paths on Manifolds Learned from Data

Georgios Arvanitidis, Søren Hauberg+2 more|arXiv (Cornell University)|Jan 22, 2019

Model Reduction and Neural Networks被引用数 20

ひとこと要約

本稿では、データから学習されたリーマン多様体上の最短経路を計算するためのヤコビアンフリー固定点反復法を提案する。従来のODEソルバーよりも不安定さと高い計算コストを克服し、悪条件なヤコビアンを回避することで、安定性と高速性を確保する。特に、困難なデータ駆動型多様体において、一般用途および特化型ソルバーよりも顕著に高速かつ高精度である。

ABSTRACT

We propose a fast, simple and robust algorithm for computing shortest paths and distances on Riemannian manifolds learned from data. This amounts to solving a system of ordinary differential equations (ODEs) subject to boundary conditions. Here standard solvers perform poorly because they require well-behaved Jacobians of the ODE, and usually, manifolds learned from data imply unstable and ill-conditioned Jacobians. Instead, we propose a fixed-point iteration scheme for solving the ODE that avoids Jacobians. This enhances the stability of the solver, while reduces the computational cost. In experiments involving both Riemannian metric learning and deep generative models we demonstrate significant improvements in speed and stability over both general-purpose state-of-the-art solvers as well as over specialized solvers.

研究の動機と目的

• 有限でノイズのあるデータから学習されたリーマン多様体上での測地線計算において、標準的ODEソルバの不安定さと高い計算コストを解消すること。
• データ駆動型リーマン計量に起因する悪条件で不安定なヤコビアンが原因で、市販のソルバが失敗する問題を克服すること。
• 機械学習で生じる複雑で高曲率の多様体における距離計算のための、強固で効率的かつスケーラブルな手法を開発すること。
• Hennig & Hauberg (2014) の先行確率的数値ソルバを、測地線計算に適用可能な、収束性が保証された実用的アルゴリズムへと拡張・是正すること。

提案手法

• 本手法は、ODE系のヤコビアンを必要としない固定点反復スキームを用いて、測地線の境界値問題（BVP）を解く。
• ガウス過程回帰を用いてリーマン計量をモデル化し、経路近似の滑らかさを保証することで、安定な収束を実現する。
• アルゴリズムは、GP事後分布から導かれる平滑化作用素を用いて経路推定値を反復的に更新し、明示的なヤコビアン計算を回避する。
• 本手法は、平滑化スプラインと固定点反復の理論（Mann, 1953; Johnson, 1972）に基づいており、緩い条件下でも収束を保証する。
• リーマン計量は、メトリック学習または深層生成モデル（例：VAE）を用いてデータから推定され、計量は平均関数および対数分散関数のヤコビアンの和として定義される。
• 収束速度と精度を向上させるために、適応的ラインサーチおよびメッシュの細分化を実装している。

実験結果

リサーチクエスチョン

• RQ1 有限データから学習された悪条件または不安定な計量を持つリーマン多様体上でも、ヤコビアンフリー固定点反復スキームが測地線を信頼性高く計算できるか？
• RQ2 困難でデータ駆動型の多様体において、本手法は一般用途および特化型ODEソルバーよりも速度と耐障害性に優れているか？
• RQ3 固定点アプローチは真の測地線に収束するのか？ また、先行の確率的数値ソルバーよりも性能を向上させられるか？
• RQ4 多様体が高曲率または非一様な計量構造を示す場合、本手法は精度と効率をどの程度維持できるか？

主な発見

• ノイズのある2次元球面上で、最短測地線路径長が2.52に計算され、bvp5c（3.65）およびHennig & Hauberg（3.30）を上回った。
• 50組のランダムに選択された点対について、本手法は一貫して最短路径を特定したが、bvp5cおよびHennig & Haubergは距離が増加するにつれて部分最適解を出力した。
• 簡単な問題ではbvp5cより高速であり、困難で高曲率の問題ではわずかな実行時間オーバーヘッドにとどまった。
• 不連続な計量領域を有する高曲率多様体において、本手法はbvp5cが失敗する状況でも安定して収束した。特に、高曲率を示す半球領域を横切る際の性能が顕著に優れた。
• ヤコビアンの条件数が高い場合でも、本手法は収束性を維持した。特に、データ多様体における対数条件数が高くなる領域でその有効性が実証された。
• 本アルゴリズムは、収束保証がなかった先行のHennig & Hauberg (2014) 法の是正版であり、収束性が保証された実用的アルゴリズムであることが示された。