[論文レビュー] Alternating projections on non-tangential manifolds

Фредрик Андерссон, Marcus Carlsson|arXiv (Cornell University)|Jul 8, 2011

Advanced Numerical Analysis Techniques参考文献 15被引用数 5

ひとこと要約

本稿は、ヒルバート空間内における2つの非接する $ C^1_{\text{Lip}} $ 多様体間の交互射影について、収束性および近似誤差の上限を確立する。極限点が $ \|B_0 - B_{\text{opt}}\| $ の相対距離内に収束することを証明し、従来の結果を著しく改善する。この枠組みは非凸的で非線形な多様体に適用可能であり、緩い幾何的条件下でも定量的な誤差推定を提供する。

ABSTRACT

We consider sequences $(B_k)_{k=0}^\infty$ of points obtained by projecting back and forth between two manifolds $\M_1$ and $\M_2$, and give conditions guaranteeing that the sequence converge to a limit $B_\infty\in\M_1\cap\M_2$. Our motivation is the study of algorithms based on finding the limit of such sequences, which have proven useful in a number of areas. The intersection is typically a set with desirable properties, but for which there is no efficient method of finding the closest point $B_{opt}$ in $\M_1\cap\M_2$. We prove not only that the sequence of alternating projections converges, but that the limit point is fairly close to $B_{opt}$, in a manner relative to the distance $\|B_0-B_{opt}\|$, thereby significantly improving earlier results in the field. A concrete example with applications to frequency estimation of signals is also presented.

研究の動機と目的

• 2つの非接する多様体間の交互射影が、それらの共通部分に収束する条件を確立すること。
• 交互射影列の極限が、共通部分における真の最近傍点から初期距離に対してどの程度近いかを定量的に評価すること。
• アフィン部分空間に対するフォン・ノイマンの古典的結果を、最小限の滑らかさの仮定のもとで非線形的・非凸的多様体へと拡張すること。
• 信号処理、行列補完、低ランク近似に用いられる交互射影アルゴリズムの理論的基盤を提供すること。
• Zangwillの定理に依存する既存手法における収束速度および近似品質の保証の欠如を是正すること。

提案手法

• 交互射影を $ B_{k+1} = \pi_1(B_k) $（$ k $ が偶数のとき）、$ \pi_2(B_k) $（$ k $ が奇数のとき）として定義する。ここで $ \pi_j $ は多様体 $ \mathcal{M}_j $ への直交射影を表す。
• 非接する多様体の概念を導入し、共通部分点において横断的であることを要件とする：すべての $ A \in \mathcal{M}_1 \cap \mathcal{M}_2 $ に対して $ T_{\mathcal{M}_1}(A) + T_{\mathcal{M}_2}(A) = \mathcal{K} $ が成り立つ。
• 各共通部分点 $ A $ の近傍に局所的近傍構造 $ \mathcal{B}(A, s_A) $ を導入し、定理6.1から得られる半径 $ s_A > 0 $ の範囲内で収束が保証される。
• 定量的上限を確立：$ \|B_\infty - \pi(B)\| \leq \epsilon \|B_0 - \pi(B)\| $。ここで $ \epsilon $ は多様体の幾何的性質および滑らかさに依存する。
• 周波数推定問題にこの枠組みを適用し、重み付き $ \ell^2 $-ノルムとヒルバート＝シュミット射影を用いる。
• 白色ノイズおよび指数和の摂動を伴うシミュレーションを通じて理論的上限を実証的に検証し、$ \varepsilon(g,n) = \|f_\infty - g\|_w / \|n\|_w $ を推定する。

実験結果

リサーチクエスチョン

• RQ1 非線形多様体間の交互射影が共通部分に収束するための幾何的および滑らかさの条件は何か？
• RQ2 交互射影列の極限点が、共通部分における真の最近傍点から初期距離に対してどの程度近いか？
• RQ3 横断性や強い凸性を仮定しない非凸的・非接する多様体に対しても、収束性および近似誤差の上限を確立できるか？
• RQ4 理論的上限における摂動サイズ $ s $ と近似誤差 $ \epsilon $ の関係は何か？
• RQ5 接点が存在する場合でも、代数的多様体に対しては交互射影法が収束するか？

主な発見

• 非接性および $ C^1_{\text{Lip}} $ 滑らかさの仮定のもとで、交互射影の列は点 $ B_\infty \in \mathcal{M}_1 \cap \mathcal{M}_2 $ に収束する。
• 極限点は $ \|B_\infty - \pi(B)\| \leq \epsilon \|B_0 - \pi(B)\| $ を満たす。ここで $ \epsilon $ は多様体の幾何的性質に依存する小さな定数であり、従来の結果を著しく改善する。
• 収束は頑健である：初期点が共通部分の近傍にない場合でも、多様体が非接であり十分に滑らかであれば、列は収束する。
• 実験的結果から $ \epsilon \approx \sigma $ であることが示され、実用的状況では $ \epsilon $ が摂動サイズに線形に比例することが示唆される。
• 理論的枠組みは、$ \pi $ が計算不能だが $ \pi_1, \pi_2 $ は計算可能な周波数推定問題（ノイズのある指数和からの推定）など、実世界の問題に適用可能である。
• 著者らは、代数的多様体に対しては非接性を仮定しなくても収束が成立すると予想しているが、これは未解決のままである。