[論文レビュー] Newton retraction as approximate geodesics on submanifolds

Ruda Zhang|arXiv (Cornell University)|Jun 26, 2020

Advanced Numerical Analysis Techniques参考文献 25被引用数 6

ひとこと要約

本稿では、埋め込み空間の法線foliationから導かれる、陰的制約で定義される部分多様体上の第二階微分再帰的写像としてのニュートン再帰的写像（NR）を提案する。NRは指数写像を第二階まで一致させ、斜交／直交再帰的写像よりも収束安定性に優れ、計算コストも低い。実際の応用において、NRはより効率的かつ頑健であることが証明されている。

ABSTRACT

Efficient approximation of geodesics is crucial for practical algorithms on manifolds. Here we introduce a class of retractions on submanifolds, induced by a foliation of the ambient manifold. They match the projective retraction to the third order and thus match the exponential map to the second order. In particular, we show that Newton retraction (NR) is always stabler than the popular approach known as oblique projection or orthographic retraction: per Kantorovich-type convergence theorems, the superlinear convergence regions of NR include those of the latter. We also show that NR always has a lower computational cost. The preferable properties of NR are useful for optimization, sampling, and many other statistical problems on manifolds.

研究の動機と目的

• 陰的制約で定義される部分多様体上の測地線を近似するための計算的に効率的で数値的に安定した再帰的写像の開発。
• 最適化および多様体上のサンプリングの文脈において、特に斜交または直交再帰的写像の収束挙動を改善すること。
• 他の手法と比較して、ニュートン再帰的写像の収束速度および計算複雑度に関する理論的保証を確立すること。
• カントロヴィチ型収束定理を用いて、ニュートン再帰的写像が第二階の精度を達成し、優れた安定性を示すことを示すこと。
• 更新ステップにおける対称的線形系のおかげで、斜交投影よりも計算コストが低いことの証明。

提案手法

• 滑らかな制約関数 F: ℝⁿ → ℝᶜ による零点集合として部分多様体 𝒪 を定義し、0 が正則値であることを仮定することで、𝒪 が余次元 c の Cᵏ 部分多様体であることを保証する。
• 法線空間場を統合することで、𝒪 の近傍における法線foliationを構築し、これにより法線測地線に沿った流れによって再帰的写像の族を誘導する。
• ニュートン再帰的写像（NR）を、x + v を制約多様体 𝒪 に射影するためのニュートン型系を解くことで得られる特定の再帰的写像として導入する。ここで J(x) はヤコビ行列で、その QR 分解を用いる。
• Jᵀ = QR の QR 分解を用いて、安定で直交基底を法空間に定義し、効率的かつ良好に条件付けられた線形解法を可能にする。
• 更新ステップを、JJᵀ を含む対称的線形系の解法として定式化することで、斜交再帰的写像における一般行列の解法よりも計算がより効率的になる。
• NR が第二階再帰的写像であることを示すために、NR が第三階まで射影再帰的写像と一致し、第二階まで指数写像と一致することを証明する。

実験結果

リサーチクエスチョン

• RQ1 陰的制約で定義される部分多様体上において、指数写像を第二階まで一致させつつ、計算効率を維持できる再帰的写像を構築できるか？
• RQ2 カントロヴィチ型収束定理の下で、ニュートン再帰的写像の収束挙動は、斜交（直交）再帰的写像と比較してどのように異なるか？
• RQ3 計算量と線形系の条件数の観点から、斜交再帰的写像に比べてニュートン再帰的写像に計算上の利点があるか？
• RQ4 解多様体の近傍で、ニュートン再帰的写像の安定性および超線形収束を保証する条件は何か？
• RQ5 埋め込み空間を制約多様体に直交する部分多様体の族に分割するfoliationから、ニュートン再帰的写像を体系的に導出できるか？

主な発見

• ニュートン再帰的写像は、指数写像を第二階まで一致させ、射影再帰的写像を第三階まで一致させることで、第二階の精度が保証される。
• カントロヴィチ型収束定理の下で、ニュートン再帰的写像の超線形収束領域は、斜交再帰的写像のそれよりも厳密に包含されるため、収束安定性に優れていることが示された。
• ニュートン再帰的写像は更新ステップで対称的線形系（JJᵀ）を用いるため、斜交再帰的写像における一般行列の解法よりも高速かつ安定した解法が可能である。
• 計算コストの分析（命題 2.14 の証明内）により、ニュートン再帰的写像の計算コストは、斜交再帰的写像よりも低いことが示された。
• ニュートン再帰的写像は、斜交再帰的写像と同一の条件下で常に定義され、安定しているが、線形系の対称構造のおかげで条件数が改善されており、より良好な数値的性質を示す。
• ニュートン再帰的写像のフレームワークにおいて、ヤコビ行列の一般逆行列のノルムは、条件数の逆数によって有界に抑えられ、適切な正則性仮定のもとで数値的頑健性が保証される。